搜索

+

95

-

cloudflare的worker如何实现访问chatgpt api进行流式输出？

人工智能 chatgpt javascript

cloudflare的worker如何实现访问chatgpt api进行流式输出？

前端js通过fetch访问cloudflare的worker来进行流式输出chatgpt的api结果

网友回复

+

15

-

利用worker来进行代理请求api.openai.com，绑定自己的域名来访问worker

然后采用stream=true方式来访问自己的域名来与openai进行请求

nodejs为例

const API_KEY = "apikeyl"

async function  init(){
const response = await  fetch(`https://你绑定worker的域名/v1/chat/completions`, {
    body: JSON.stringify({
        model: 'gpt-3.5-turbo',
        messages: [{
            role: 'user', content: 'hello'
        }],
        temperature: 0.9,
        max_tokens: 100,
        stream:true
    }),
    method: 'POST',
    headers: {
        'content-type': 'application/json',
        Authorization: 'Bearer ' + API_KEY,

    },
})

    // 检查响应状态码
    if (!response.ok) {
      throw new Error(`HTTP error! status: ${response.status}${response.statusText}`);
    }

    // 将响应体设置为可读流，并逐步输出数据到可写流
    const reader = response.body.getReader();
    const de...

点击查看剩余70%

我知道答案，我要回答

我有问题

私活外包

最新提问