chatgpt4o api流式输出如何计算消耗的tokens数量?
如何不是流式输出会输出总的消耗token数量,那么流式模式下呢?
这是非流式模式下输出tokens数量:
{ "id": "chatcmpl-123", "object": "chat.completion", "created": 1677652288, "choices": [{ "index": 0, "message": { "role": "assistant", "content": "\n\nHello there, how may I assist you today?", }, "finish_reason": "stop" }], "usage": { "prompt_tokens": 9, "completion_tokens": 12, "total_tokens": 21 } }流式模式下api接口没有统计消耗的tokens
{ "id":"chatcmpl76y3gsGmxYfioodOWIFgxxxxxV", "object":"chat.completion.chunk", "created":1681895111, "model":"gpt-3.5-turbo-0301", "choices":[ { "delta":{"content":"xx""}, "index":0, "finish_reason":null } ] }
网友回复
有没有开源的solo agent一句话描述就能开发直接运行的前后端应用源代码?
订单支付过程中部分商品库存不足如何处理?
python如何开发一个自定义域名后缀的邮箱系统及登录发送邮件管理web页面?
有没有开源的项目将图片视频声音文字转场特效编排自动生成剪映草稿json文件?
有没有摄像头捕获眼球转动操作鼠标的开源代码?
localstorage如何生成自增的键值对进行增删改查?
python有没有将python脚本与python运行环境一键打包成exe的代码?
nodejs如何执行浏览器中运行的js代码?
iframe中如何阻止其他域名网页的打开或跳转?
webrtc如何实现多人音频电话会议?