只要是兼容openai的接口都行
llm_cfg = {
# 使用 DashScope 提供的模型服务：
'model': 'gpt-4o',
'model_server': 'https://api.openai.com/v1/',
'api_key': 'sk-',
# 使用与 OpenAI API 兼容的模型服务，例如 vLLM 或 Ollama：
# 'model': 'Qwen2.5-7B-Instruct',
# 'model_server': 'http://localhost:11434/v1/', # base_url，也称为 api_base
# 'api_key': 'EMPTY',
# （可选） LLM 的超参数：
'generate_cfg': {
'top_p': 0.8
}
} 网友回复
我知道答案，我要回答
私活外包
最新提问
有没有不依赖embedding向量的RAG技术？
有没有支持实时打断语音通话并后台帮你执行任何的ai模型？
开源ai大模型文件格式GGUF、MLX、Safetensors、 ONNX 有什么区别？
出海挣钱支付收款PayPal、Wise 、PingPong、Stripe如何选择？
如何实现类似google的图片隐形水印添加和识别技术？
linux上如何运行任意windows程序？
ai能写出比黑客还厉害的零日漏洞等攻击工具攻击任意软件系统工程？
js如何获取浏览器的音频上下文指纹、Canvas指纹、WebGL渲染特征？
为啥ai开始抛弃markdown文本，重新偏好html文本了？
网站有没有办法鉴别访问请求是由ai操控chrome-devtools-mcp发出的？
