+
50
-

浏览器如何离线运行llama大模型?

浏览器如何离线运行llama大模型?首次打开直接下载llama大模型,后面离线都可以运行这个llama大模型了。

网友回复

+
0
-

secret-llama 是一个开源项目,旨在提供一个完全在浏览器中运行的 LLM 聊天机器人,保证用户数据的私密性,不需要任何服务器端支持。

该项目支持多种开源 LLM,如 Mistral 和 Llama 3,并且可以在不同的现代浏览器上运行,包括支持 WebGPU 的 Google Chrome、Microsoft Edge 和 Firefox(需要手动启用)。

800_auto

800_auto

github开源地址:https://github.com/abi/secret-llama

体验地址:https://secretllama.com/

我知道答案,我要回答