QueryGPT

QueryGPT：使用 NodeJS 和 OpenAI 构建您的个性化问答聊天机器人

什么是 QueryGPT？

QueryGPT 是一个开源项目，让您能够创建由 NodeJS 和 OpenAI 的 GPT 模型驱动的问答聊天机器人。它使聊天机器人能够从您提供的知识库中学习，提供基于您的数据和 OpenAI 训练数据的精确答案。这使其成为处理技术文档、科学论文、商业产品数据等的理想选择。

QueryGPT 如何工作？

QueryGPT 利用嵌入 (embeddings) 和补全 (completion) 模型来提供准确的响应。以下是该过程的分解：

1. 数据准备： 该项目与文本文件无缝协作，无需进行 JSON/JSONL 转换。将您的数据分成更小的段落，以获得最佳嵌入效果。
2. 嵌入： 文本段落使用 OpenAI 的嵌入模型转换为数值向量表示。这些向量捕获文本的语义含义。
3. 问题嵌入： 用户的问题也转换为嵌入向量。
4. 相似性搜索： 系统使用点积计算问题嵌入向量与知识库中每个段落的嵌入向量之间的相似性。
5. 上下文检索： 选择具有最高相似度得分的段落（通常为 3-5 个）作为回答问题的上下文。
6. 补全： 将选定的段落和用户的问题以及精心设计的提示 (prompt) 输入到 OpenAI 的补全模型中（例如，text-davinci-003）。
7. 响应生成： 补全模型根据提供的上下文及其预先存在的知识生成答案。

主要功能与优势：

• 个性化知识库： 使用您的特定数据训练您的聊天机器人，以获得准确且相关的答案。
• 无需 Python： 使用 NodeJS 构建，无需 Python 知识。
• 文本文件支持： 直接使用文本文件，简化数据输入。
• 基于嵌入的准确性： 利用嵌入进行语义理解和精确的上下文检索。
• 可自定义的提示： 选择优先考虑来自您的知识库的答案，或者允许模型在必要时使用其自身知识的提示。

如何使用 QueryGPT？

1. 前提条件：

   • NodeJS
   • 基本的 Javascript 知识
   • OpenAI API 密钥

2. 设置：

   • 创建一个 NodeJS 项目：mkdir QueryGPT && cd QueryGPT && npm init -y
   • 安装依赖项：npm install @types/node dotenv openai
   • 创建必要的文件夹：mkdir sourceData embeddedData utils
   • 创建一个 .env 文件并添加您的 OpenAI API 密钥：OPENAI_API_KEY = YOUR_API_KEY

3. 配置：

   • 创建一个 utils/helper.js 文件以配置 OpenAI API。

4. 嵌入数据：

   • 通过将您的数据分成小段落并将其保存在 ./embeddedData/sourceData.txt 中来准备您的数据。
   • 运行 embedding.js 文件以生成嵌入：node embedding.js

5. 生成响应：

   • 使用您的问题运行 completion.js 文件： node completion.js generateCompletion("谁是商学院的代理院长");

QueryGPT 适合谁？

QueryGPT 非常适合：

• 企业： 为产品文档和客户支持创建聊天机器人。
• 研究人员： 构建用于分析科学论文和研究数据的工具。
• 教育工作者： 开发基于课程材料的交互式学习资源。
• 任何 想要一个从他们自己的数据中学习的个性化 AI 助手的人。

为什么选择 QueryGPT？

• 对数据的控制： 您可以完全控制聊天机器人使用的知识库。
• 准确性： 嵌入确保语义理解和精确的上下文检索。
• 自定义： 使用可自定义的提示将聊天机器人适配到您的特定需求。
• 开源： 免费使用和修改。

QueryGPT 提供了一种强大而灵活的方式来构建 AI 驱动的问答系统。通过结合 NodeJS 和 OpenAI 的强大功能，您可以创建智能聊天机器人，从您自己的数据中提供准确和个性化的答案。