利用worker来进行代理请求api.openai.com,绑定自己的域名来访问worker
然后采用stream=true方式来访问自己的域名来与openai进行请求
nodejs为例
const API_KEY = "apikeyl"
async function init(){
const response = await fetch(`https://你绑定worker的域名/v1/chat/completions`, {
body: JSON.stringify({
model: 'gpt-3.5-turbo',
messages: [{
role: 'user', content: 'hello'
}],
temperature: 0.9,
max_tokens: 100,
stream:true
}),
method: 'POST',
headers: {
'content-type': 'application/json',
Authorization: 'Bearer ' + API_KEY,
},
})
// 检查响应状态码
if (!response.ok) {
throw new Error(`HTTP error! status: ${response.status}${response.statusText}`);
}
// 将响应体设置为可读流,并逐步输出数据到可写流
const reader = response.body.getReader();
const decoder = new TextDecoder();
const textDecoder = new TextEncoder();
while (true) {
const { done, value } =await reader.read();
if (done) {
break;
}
const string =decoder.decode(value);
//流式输出,自己解析文本
console.log(string )
}
}
init();
如何是浏览器js访问,要把apikey写在worker中
<!DOCTYPE html>
<html>
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width,initial-scale=1.0,maximum=1.0,minimum=1.0,user-scalable=0" />
<title>BFW NEW PAGE</title>
</head>
<body>
<script type="module">
const API_KEY = "";
const response = await fetch(`https://worker的绑定域名/v1/chat/completions`, {
body: JSON.stringify({
model: 'gpt-3.5-turbo',
messages: [{
role: 'user', content: 'hello'
}],
temperature: 0.9,
max_tokens: 100,
stream:true
}),
method: 'POST',
headers: {
'content-type': 'application/json',
Authorization: 'Bearer ' + API_KEY,
}
});
// 检查响应状态码
if (!response.ok) {
throw new Error(`HTTP error! status: ${response.status}${response.statusText}`);
}
// 将响应体设置为可读流,并逐步输出数据到可写流
const reader = response.body.getReader();
const decoder = new TextDecoder();
const textDecoder = new TextEncoder();
while (true) {
const { done, value } =await reader.read();
if (done) {
break;
}
const string =decoder.decode(value);
console.log(string )
}
</script>
</body>
</html>
网友回复
webgl与webgpu有啥不同?
Zero Trust的Tunnels怎么设置泛域名解析及http服务获取当前访问域名?
Spec Coding(规范驱动编码)和 Vibe Coding(氛围编程)有啥区别?
如何在国内服务器上正常运行未备案的域名网站?
Cloudflared 和WARP Connector有啥不同?
有没有让本地开源大模型越狱的方法或插件啥的?
如何使用Zero Trust的Tunnels技术将局域网电脑web服务可以公网访问呢?
编程领域ai大模型的排名是怎么样的?
如何修改别人发给我的微信笔记内容?
fbx、obj、glb三维格式模型如何在浏览器中通过three相互转换格式?


