cloudflare的worker如何实现访问chatgpt api进行流式输出?
前端js通过fetch访问cloudflare的worker来进行流式输出chatgpt的api结果
网友回复
利用worker来进行代理请求api.openai.com,绑定自己的域名来访问worker
然后采用stream=true方式来访问自己的域名来与openai进行请求
nodejs为例
const API_KEY = "apikeyl" async function init(){ const response = await fetch(`https://你绑定worker的域名/v1/chat/completions`, { body: JSON.stringify({ model: 'gpt-3.5-turbo', messages: [{ role: 'user', content: 'hello' }], temperature: 0.9, max_tokens: 100, stream:true }), method: 'POST', headers: { 'content-type': 'application/json', Authorization: 'Bearer ' + API_KEY, }, }) // 检查响应状态码 if (!response.ok) { throw new Error(`HTTP error! status: ${response.status}${response.statusText}`); } // 将响应体设置为可读流,并逐步输出数据到可写流 const reader = response.body.getReader(); const de...
点击查看剩余70%