官方列出支持tool工具函数调用的大模型有llama3.1、mistral nemo、firefunction v2、command R+,但是llama3.1也只有405B5参数支持,所有你的llama3.1 8b是不支持tool function的,可以通过提示词结合json输出实现。点击打开链接
网友回复
官方列出支持tool工具函数调用的大模型有llama3.1、mistral nemo、firefunction v2、command R+,但是llama3.1也只有405B5参数支持,所有你的llama3.1 8b是不支持tool function的,可以通过提示词结合json输出实现。点击打开链接
网友回复