Zephyr 7B Gemma是个语言模型,属于Zephyr系列的的一部分,旨在构建有助于协助工作的智能助理。这个系列的第三款模型,Zephyr 7B Gemma,是对谷歌Gemma 7B模型经过微调的版本,是在公开可用的综合数据集上使用直接偏好优化(Direct Preference Optimization,简称DPO)进行训练的。
模型的基本信息如下:
模型类型:基于大量公共数据集进行微调的7B参数GPT类模型。
支持的语言:主要是英语。
许可证:Gemma使用条款。
基础模型来源:google/gemma-7b。
模型使用了一系列技术评估标准,如MT Bench、AGIEval和GPT4All等,以及一个对话生成的示例应用。Zephyr 7B Gemma最初在包含由ChatGPT生成的合成对话的DEITA 10K数据集上进行了微调,并且使用
网友回复