Webllm

WebLLM：高性能浏览器内LLM推理引擎正式推出

WebLLM是一个支持在网页浏览器中直接运行大语言模型推理的高性能引擎。该项目通过WebGPU实现硬件加速，无需依赖后端服务器即可完成推理任务。