openai推出了tiktoken工具用于统计输出的tokens数量，只要在最后一个tokens输出后将前面的tokens累积交给tiktokoen计算即可。
# -*- coding: utf-8 -*-
import tiktoken
def num_tokens_from_string(string: str, encoding_name: str) -> int:
# Returns the number of tokens in a text string.
encoding = tiktoken.get_encoding(encoding_name)
num_tokens = len(encoding.encode(string))
return num_tokens
print(num_tokens_from_string('今天几号？', 'cl100k_base'))
其中编码方式展示了大模型是如何编码为tokens，不同的编码计算的token是不一样，这是三种编码方式适用的大模型
tiktokens已经开源，
https://github.com/openai/tiktoken
而且GitHub也有除python外其他语言的版本
https://github.com/search?q=tiktoken&type=repositories
网友回复
我知道答案，我要回答
私活外包
最新提问
DLNA与UPnP的区别和不同？
苏超自建抢票app，通过先预约再抽签化解高并发抢票？
python如何让给电脑在局域网中伪装成电视接收手机的投屏图片视频播放？
如何结合python+js如何自己的视频编码与加密播放直播？
python如何在电脑上通过局域网将本地视频或m3u8视频投屏电视播放？
腾讯视频爱奇艺优酷vip电影电视剧视频如何通过python绕过vip收费直接观看？
有没有可免费观看全球电视台直播m3u8地址url的合集？
有没有实现观影自由的免vip影视苹果 CMS V10 API的可用url？
python如何实时检测电脑usb插入检测报警？
如何判断真人操作的鼠标移动直线轨迹与机器操作的轨迹？
