回答-BFW问答

参考这个项目MiniMind ，MiniMind 主打以极低成本（单 3090 显卡 2 小时、约 3 元）和全流程（从 Tokenizer 训练到预训练、SFT、LoRA、DPO/PPO 强化学习等），支持个人从零训练参数最小仅 26M（为 GPT-3 的 1/7000）、兼容主流框架且含视觉多模态拓展（MiniMind-V）的小模型，同时提供清晰原生 PyTorch 代码，是 LLM 入门与实践的优质资源。https://jingyaogong.github.io/minimind/