试试这个版本的llama3名字叫llama3-gradient:
Gradient AI 利用分阶段训练策略,成功地将 Llama-3 模型的文本处理能力扩展至百万字符以上。
通过引入 RingAttention 和 EasyContext Blockwise 技术,模型的运算效率得到显著增强。此外,NTK-aware 插值技术和缩放法则的应用进一步提升了模型性能。Llama-3 在大规模 GPU 集群上的训练,使其在长文本处理方面取得了突破性进展。
直接通过ollama run llama3-gradient运行,注意100k的上下文需要64g的内存

来源:https://ollama.com/library/llama3-gradient
网友回复
有没有不依赖embedding向量的RAG技术?
有没有支持实时打断语音通话并后台帮你执行任何的ai模型?
开源ai大模型文件格式GGUF、MLX、Safetensors、 ONNX 有什么区别?
出海挣钱支付收款PayPal、Wise 、PingPong、Stripe如何选择?
如何实现类似google的图片隐形水印添加和识别技术?
linux上如何运行任意windows程序?
ai能写出比黑客还厉害的零日漏洞等攻击工具攻击任意软件系统工程?
js如何获取浏览器的音频上下文指纹、Canvas指纹、WebGL渲染特征?
为啥ai开始抛弃markdown文本,重新偏好html文本了?
网站有没有办法鉴别访问请求是由ai操控chrome-devtools-mcp发出的?


