可以通过这个框架MLC LLM
https://github.com/mlc-ai/mlc-llm
支持所有的平台,windwos、安卓、ios、mac、linux
每个平台的安装教程也都有,确保自己的手机内存充足,大模型很费内存的。
https://llm.mlc.ai/docs/deploy/android.html#deploy-android
https://llm.mlc.ai/docs/get_started/quick_start
网友回复
可以通过这个框架MLC LLM
https://github.com/mlc-ai/mlc-llm
支持所有的平台,windwos、安卓、ios、mac、linux
每个平台的安装教程也都有,确保自己的手机内存充足,大模型很费内存的。
https://llm.mlc.ai/docs/deploy/android.html#deploy-android
https://llm.mlc.ai/docs/get_started/quick_start
网友回复