直接在浏览器运行开源语言模型
直接在浏览器里面运行的大语言模型,不需要部署直接调用webGPU进行运算,已经把模型部署成本拉到最低了。目前只有M1或者M2芯片的Mac可以运行,许需要下载谷歌开发版本。 这里下载谷歌浏览器开发者版本:
https://google.com/chrome/canary/
用开发者版本的谷歌打开这个页面体验:
https://mlc.ai/web-llm/#chat-demo…
![866c34eb85624284850216a6b8c64ffb_2076989541495611392 直接在浏览器运行AI开源语言模型](https://chatgpt.yundongfang.com/wp-content/uploads/2023/06/866c34eb85624284850216a6b8c64ffb_2076989541495611392.png)
© 版权声明
文章版权归作者所有,未经允许请勿转载。
直接在浏览器里面运行的大语言模型,不需要部署直接调用webGPU进行运算,已经把模型部署成本拉到最低了。目前只有M1或者M2芯片的Mac可以运行,许需要下载谷歌开发版本。 这里下载谷歌浏览器开发者版本:
https://google.com/chrome/canary/
用开发者版本的谷歌打开这个页面体验:
https://mlc.ai/web-llm/#chat-demo…