一般的ai大模型在进行api调用回复文字后会返回一个字段标明次轮会话是否全部回复了,例如在OpenAI API的响应中,finish_reason字段用来指示生成的完成状态。以下是finish_reason字段可能包含的值及其含义:
stop:API返回了完整的消息,或者消息由stop参数提供的停止序列之一终止。length:由于max_tokens参数或标记限制而导致模型输出不完整。function_call:模型决定调用函数。content_filter:由于内容过滤器标志而省略的内容。null:API响应仍在进行中或不完整。
当finish_reason返回length的时候,就可以继续将这个回复继续最为上下文让他回复余下的文字直到返回stop为止。
网友回复