[开源项目] 基于WebGPU的免安装本地AI聊天机器人 (开发中) – 蓝点网
发布时间：2025-04-14 21:16:02 作者：玩站小弟 
我要评论
我要评论早前谷歌在 Google Chrome Canary 版里发布了 WebGPU 项目，该项目可以让开发者基于浏览器调用本机显卡算力。所以在 GitHub 上有开源团队构建了 Web-LLM 项目，即基
。
早前谷歌在 Google Chrome Canary 版里发布了 WebGPU 项目，开源该项目可以让开发者基于浏览器调用本机显卡算力。项目
所以在 GitHub 上有开源团队构建了 Web-LLM 项目，基于机器即基于 Web 的安装大型语言模型，一切都在浏览器内运行，本地不需要服务器支持、聊天蓝点不需要安装、人开直接利用 WebGPU 特性运行。发中
这个项目可以大幅度简化搭建 AI 聊天机器人的开源步骤，而且可以保护隐私，项目因为这个 AI 模型是基于机器 “你” 控制的，你提交的安装数据不会被共享给开发者进行模型训练。
这个项目还在开发中，本地有兴趣的聊天蓝点开发者可以参与该项目。
![[开源项目] 基于WebGPU的人开免安装本地AI聊天机器人 (开发中)](https://img.lancdn.com/landian/2023/04/98381.png)
当然由于是相当于在本地运行的，所以显卡性能至关重要，根据开源团队说明， 显存至少需要 6.4GB，所以如果你的显卡显存比较小的话可能无法运行。
必要条件：Google Chrome 113.0+、显存至少为 6.4GB，使用不同的模型显存要求可能还会增加。
项目地址：https://github.com/mlc-ai/web-llm
演示地址：https://mlc.ai/web-llm/#chat-demo
注：演示聊天使用的模型是 vicuna-7b-v0。
相关文章
慕思· 助眠是慕思总体旗下的高端智能化产物系列，自动于以高新科技助眠方式，带给你智能、瘦弱、逍遥的就寝体验。2020年7月26日在广州市番禺欧亚达中庭举行了一场主题为“超跑首发，庥可是至”的慕思推拿椅2025-04-14
佳美服饰女士时尚搭配佳美制衣奈何样样）源头：时尚服饰网浏览：1793女士的穿衣搭配能耐第叠穿的修身背心搭配长裙 搭配揭示1 选浅色上衣来搭配：身段不高的MM穿长裙很简略会显患上更矮，由于厚重的长裙将人2025-04-14
佳美服饰女士时尚搭配佳美制衣奈何样样）源头：时尚服饰网浏览：1793女士的穿衣搭配能耐第叠穿的修身背心搭配长裙 搭配揭示1 选浅色上衣来搭配：身段不高的MM穿长裙很简略会显患上更矮，由于厚重的长裙将人2025-04-14
魔都复原风波！2019上海建博会，蓝炬星亮剑回手，搭起厨房侥幸碉堡
魔都复原风波！2019上海建博会，蓝炬星亮剑回手，搭起厨房侥幸碉堡盛会不断，精采连连！应市场需要，集行业大成，继北京展会后，又一场顶级盛宴——2019中国建博会上海）于3月26日在国家会展中间，顺遂拉2025-04-14
餐饮行业黑白常有睁开的行业，如今有良多明星也都在这个行业仍是投资，这黑白常有睁开远景的，小吊梨汤投资黑白常有特色的一个美食投资品牌，深受投资商的喜爱，在市场上已经有了上百家的分店，良多吃货都很喜爱这个2025-04-14
摘要：河南共有7县市）上榜，百强县数目与福建并列天下第四，仅次于江苏、浙江以及山东，挨次分说为：新郑市、永都市、巩义市、济源市、中牟县、新密市以及林州市。2025-04-14
最新评论