回答-BFW问答

上海AI Lab团队最近发布了LLaMA版o1开源项目，这是一个复刻OpenAI的o1推理大模型的项目。该项目采用了蒙特卡洛树搜索、Self-Play强化学习、PPO算法，以及AlphaGo Zero的双重策略范式，显著提升了模型的数学能力。

在AIME2024基准测试中，LLaMA版o1的表现超过了部分商业闭源方案，优化后的模型在30道题中做对了8道，而原版LLaMA-3.1-8B-Instruct仅做对2道。项目已经开源了预训练数据集、模型和强化学习训练代码，这些资源为开发者社区提供了丰富的研究和应用基础。值得注意的是，尽管项目名为LLaMA-O1，但官方提供的预训练模型是基于谷歌的Gemma 2。LLaMA版o1的发布为AI领域带来了新的发展机遇和挑战，展现了开源界在推动AI技术发展方面的实力。

代码：https://github.com/GAIR-NLP/O1-Journey/