利用worker来进行代理请求api.openai.com,绑定自己的域名来访问worker
然后采用stream=true方式来访问自己的域名来与openai进行请求
nodejs为例
const API_KEY = "apikeyl"
async function init(){
const response = await fetch(`https://你绑定worker的域名/v1/chat/completions`, {
body: JSON.stringify({
model: 'gpt-3.5-turbo',
messages: [{
role: 'user', content: 'hello'
}],
temperature: 0.9,
max_tokens: 100,
stream:true
}),
method: 'POST',
headers: {
'content-type': 'application/json',
Authorization: 'Bearer ' + API_KEY,
},
})
// 检查响应状态码
if (!response.ok) {
throw new Error(`HTTP error! status: ${response.status}${response.statusText}`);
}
// 将响应体设置为可读流,并逐步输出数据到可写流
const reader = response.body.getReader();
const decoder = new TextDecoder();
const textDecoder = new TextEncoder();
while (true) {
const { done, value } =await reader.read();
if (done) {
break;
}
const string =decoder.decode(value);
//流式输出,自己解析文本
console.log(string )
}
}
init();
如何是浏览器js访问,要把apikey写在worker中
<!DOCTYPE html>
<html>
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width,initial-scale=1.0,maximum=1.0,minimum=1.0,user-scalable=0" />
<title>BFW NEW PAGE</title>
</head>
<body>
<script type="module">
const API_KEY = "";
const response = await fetch(`https://worker的绑定域名/v1/chat/completions`, {
body: JSON.stringify({
model: 'gpt-3.5-turbo',
messages: [{
role: 'user', content: 'hello'
}],
temperature: 0.9,
max_tokens: 100,
stream:true
}),
method: 'POST',
headers: {
'content-type': 'application/json',
Authorization: 'Bearer ' + API_KEY,
}
});
// 检查响应状态码
if (!response.ok) {
throw new Error(`HTTP error! status: ${response.status}${response.statusText}`);
}
// 将响应体设置为可读流,并逐步输出数据到可写流
const reader = response.body.getReader();
const decoder = new TextDecoder();
const textDecoder = new TextEncoder();
while (true) {
const { done, value } =await reader.read();
if (done) {
break;
}
const string =decoder.decode(value);
console.log(string )
}
</script>
</body>
</html>
网友回复
有没有不依赖embedding向量的RAG技术?
有没有支持实时打断语音通话并后台帮你执行任何的ai模型?
开源ai大模型文件格式GGUF、MLX、Safetensors、 ONNX 有什么区别?
出海挣钱支付收款PayPal、Wise 、PingPong、Stripe如何选择?
如何实现类似google的图片隐形水印添加和识别技术?
linux上如何运行任意windows程序?
ai能写出比黑客还厉害的零日漏洞等攻击工具攻击任意软件系统工程?
js如何获取浏览器的音频上下文指纹、Canvas指纹、WebGL渲染特征?
为啥ai开始抛弃markdown文本,重新偏好html文本了?
网站有没有办法鉴别访问请求是由ai操控chrome-devtools-mcp发出的?


