利用worker来进行代理请求api.openai.com,绑定自己的域名来访问worker
然后采用stream=true方式来访问自己的域名来与openai进行请求
nodejs为例
const API_KEY = "apikeyl"
async function init(){
const response = await fetch(`https://你绑定worker的域名/v1/chat/completions`, {
body: JSON.stringify({
model: 'gpt-3.5-turbo',
messages: [{
role: 'user', content: 'hello'
}],
temperature: 0.9,
max_tokens: 100,
stream:true
}),
method: 'POST',
headers: {
'content-type': 'application/json',
Authorization: 'Bearer ' + API_KEY,
},
})
// 检查响应状态码
if (!response.ok) {
throw new Error(`HTTP error! status: ${response.status}${response.statusText}`);
}
// 将响应体设置为可读流,并逐步输出数据到可写流
const reader = response.body.getReader();
const decoder = new TextDecoder();
const textDecoder = new TextEncoder();
while (true) {
const { done, value } =await reader.read();
if (done) {
break;
}
const string =decoder.decode(value);
//流式输出,自己解析文本
console.log(string )
}
}
init();
如何是浏览器js访问,要把apikey写在worker中
<!DOCTYPE html>
<html>
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width,initial-scale=1.0,maximum=1.0,minimum=1.0,user-scalable=0" />
<title>BFW NEW PAGE</title>
</head>
<body>
<script type="module">
const API_KEY = "";
const response = await fetch(`https://worker的绑定域名/v1/chat/completions`, {
body: JSON.stringify({
model: 'gpt-3.5-turbo',
messages: [{
role: 'user', content: 'hello'
}],
temperature: 0.9,
max_tokens: 100,
stream:true
}),
method: 'POST',
headers: {
'content-type': 'application/json',
Authorization: 'Bearer ' + API_KEY,
}
});
// 检查响应状态码
if (!response.ok) {
throw new Error(`HTTP error! status: ${response.status}${response.statusText}`);
}
// 将响应体设置为可读流,并逐步输出数据到可写流
const reader = response.body.getReader();
const decoder = new TextDecoder();
const textDecoder = new TextEncoder();
while (true) {
const { done, value } =await reader.read();
if (done) {
break;
}
const string =decoder.decode(value);
console.log(string )
}
</script>
</body>
</html>
网友回复
python如何实现torrent的服务端进行文件分发p2p下载?
如何在浏览器中录制摄像头和麦克风数据为mp4视频保存下载本地?
go如何编写一个类似docker的linux的虚拟容器?
python如何写一个bittorrent的种子下载客户端?
ai能通过看一个网页的交互过程视频自主模仿复制网页编写代码吗?
ai先写功能代码通过chrome mcp来进行测试功能最后ai美化页面这个流程能行吗?
vue在手机端上下拖拽元素的时候如何禁止父元素及body的滚动导致无法拖拽完成?
使用tailwindcss如何去掉响应式自适应?
有没有直接在浏览器中运行的离线linux系统?
nginx如何保留post或get数据进行url重定向?