chatgpt4o api流式输出如何计算消耗的tokens数量?
如何不是流式输出会输出总的消耗token数量,那么流式模式下呢?
这是非流式模式下输出tokens数量:
{ "id": "chatcmpl-123", "object": "chat.completion", "created": 1677652288, "choices": [{ "index": 0, "message": { "role": "assistant", "content": "\n\nHello there, how may I assist you today?", }, "finish_reason": "stop" }], "usage": { "prompt_tokens": 9, "completion_tokens": 12, "total_tokens": 21 } }流式模式下api接口没有统计消耗的tokens
{ "id":"chatcmpl76y3gsGmxYfioodOWIFgxxxxxV", "object":"chat.completion.chunk", "created":1681895111, "model":"gpt-3.5-turbo-0301", "choices":[ { "delta":{"content":"xx""}, "index":0, "finish_reason":null } ] }
网友回复
webrtc进行p2p连接发送的文本音视频文件是否是加密的?
如何让一个可爱的三维动物通过three在浏览器中有表情动作的自然说话?
go与wails如何开发一个高性能的原生桌面应用?
python如何调用openai的api实现知识讲解类动画讲解视频的合成?
html如何直接调用openai的api实现海报可视化设计及文本描述生成可编辑海报?
f12前端调试如何找出按钮点击事件触发的那段代码进行调试?
abcjs如何将曲谱播放后导出mid和wav格式音频下载?
python如何将曲子文本生成音乐mp3或wav、mid文件
python中mp3、wav音乐如何转成mid格式?
js在HTML中如何将曲谱生成音乐在线播放并下载本地?