要使用ChatGPT的embedding来搭建一个中文全文搜索引擎,需要进行以下步骤:
1. 准备中文文本数据集。可以使用已有的数据集,也可以自己收集和清洗数据。2. 对文本数据进行分词和编码。可以使用Python的jieba库进行中文分词,然后使用ChatGPT的embedding将分词后的文本编码为向量。
3. 建立索引。将编码后的文本向量存储到一个数据库或者文件中,以便后续进行搜索。
4. 进行搜索。对于一个查询文本,先进行分词和编码,然后计算与索引中所有文本向量的相似度,选取相似度最高的文本作为搜索结果。
需要注意的是,这只是一个简单的框架,实际上还需要进行很多优化和改进,比如使用倒排索引、加入语义信息等,下面是参考示例代码:
# -*- coding: utf-8 -*
import openai, numpy as np
openai.api_key = "apikey"
def getembedding(txt):
resp = openai.Embedding.create(
input=[txt],
engine="text-similarity-davinci-001")
return resp['data'][0]['embedding']
resp = openai.Embedding.create(
input=["李磊的力量是有限的,他去吃饭了", "张华找到李磊,问他是否要去学校","李磊是一个普通家庭的中学生,李磊的爸妈是工厂工人,他也是一个三好学生,他出生在一个农村"],
engine="text-similarity-davinci-001")
embedding_a = resp['data'][0]['embedding']
embedding_b = resp['data'][1]['embedding']
embedding_c = resp['data'][2]['embedding']
# print(embedding_a)
# print(embedding_b)
promptask="李磊是谁?"
embbdingask=getembedding(promptask)
print(np.dot(embbdingask, embedding_a))
print(np.dot(embbdingask, embedding_b))
print(np.dot(embbdingask, embedding_c))
网友回复
如何写ai提示词让大模型根据主题生成视频脚本json,然后让Hyperframe渲染出mp4视频?
有哪些字体使用等宽编程代码展示?
如果让演唱会歌迷的上万手机屏幕和闪光灯一起被现场中控控制闪烁?
Midjourney为啥进军医疗领域了?
python如何跟踪足球比赛指定球员全场运动标注打聚光灯合成
如何将linux服务器的文件目录映射到windows电脑磁盘?
Docling 与 MarkItDown 两个库有啥不同?
豆包收费后国产其他ai软件也会跟进收费吗?
JPEG 与 HEIF图片格式区别?
centos7版本太旧无法安装python3.11,如何在docker中运行python3.11?


