QueryGPT

QueryGPT: Ihr persönlicher Q&A-Chatbot mit NodeJS & OpenAI

Was ist QueryGPT?

QueryGPT ist ein Open-Source-Projekt, mit dem Sie einen Frage-Antwort-Chatbot erstellen können, der von NodeJS und den GPT-Modellen von OpenAI betrieben wird. Es ermöglicht dem Chatbot, aus einer von Ihnen bereitgestellten Wissensdatenbank zu lernen und präzise Antworten zu geben, die auf Ihren Daten und den Trainingsdaten von OpenAI basieren. Dies macht es ideal für die Bearbeitung von technischer Dokumentation, wissenschaftlichen Arbeiten, Geschäftsproduktdaten und mehr.

Wie funktioniert QueryGPT?

QueryGPT nutzt Embeddings und Completion-Modelle, um genaue Antworten zu liefern. Hier ist eine Aufschlüsselung des Prozesses:

1. Datenvorbereitung: Das Projekt funktioniert nahtlos mit Textdateien, wodurch die Notwendigkeit einer JSON/JSONL-Konvertierung entfällt. Teilen Sie Ihre Daten in kleinere Absätze auf, um ein optimales Embedding zu erzielen.
2. Embedding: Die Textabsätze werden mithilfe der Embedding-Modelle von OpenAI in numerische Vektordarstellungen umgewandelt. Diese Vektoren erfassen die semantische Bedeutung des Textes.
3. Fragen-Embedding: Die Frage des Benutzers wird ebenfalls in einen Embedding-Vektor umgewandelt.
4. Ähnlichkeitssuche: Das System berechnet die Ähnlichkeit zwischen dem Embedding-Vektor der Frage und den Embedding-Vektoren jedes Absatzes in Ihrer Wissensdatenbank mithilfe eines Punktprodukts.
5. Kontextabruf: Die Absätze mit den höchsten Ähnlichkeitswerten (typischerweise 3-5) werden als Kontext für die Beantwortung der Frage ausgewählt.
6. Completion: Die ausgewählten Absätze und die Frage des Benutzers werden zusammen mit einem sorgfältig erstellten Prompt in das Completion-Modell von OpenAI (z. B. text-davinci-003) eingespeist.
7. Antwortgenerierung: Das Completion-Modell generiert eine Antwort basierend auf dem bereitgestellten Kontext und seinem vorhandenen Wissen.

Hauptmerkmale und Vorteile:

• Personalisierte Wissensdatenbank: Trainieren Sie Ihren Chatbot mit Ihren spezifischen Daten, um genaue und relevante Antworten zu erhalten.
• Kein Python erforderlich: Entwickelt mit NodeJS, wodurch Python-Kenntnisse entfallen.
• Textdateien-Unterstützung: Funktioniert direkt mit Textdateien, wodurch die Dateneingabe vereinfacht wird.
• Embedding-basierte Genauigkeit: Nutzt Embeddings für semantisches Verständnis und präzisen Kontextabruf.
• Anpassbare Prompts: Wählen Sie Prompts, die entweder Antworten aus Ihrer Wissensdatenbank priorisieren oder dem Modell erlauben, sein eigenes Wissen zu nutzen, wenn dies erforderlich ist.

Wie verwende ich QueryGPT?

1. Voraussetzungen:

   • NodeJS
   • Grundlegende Javascript-Kenntnisse
   • OpenAI API-Schlüssel

2. Einrichtung:

   • Erstellen Sie ein NodeJS-Projekt: mkdir QueryGPT && cd QueryGPT && npm init -y
   • Installieren Sie Abhängigkeiten: npm install @types/node dotenv openai
   • Erstellen Sie notwendige Ordner: mkdir sourceData embeddedData utils
   • Erstellen Sie eine .env-Datei und fügen Sie Ihren OpenAI API-Schlüssel hinzu: OPENAI_API_KEY = YOUR_API_KEY

3. Konfiguration:

   • Erstellen Sie eine utils/helper.js-Datei, um die OpenAI API zu konfigurieren.

4. Embedding-Daten:

   • Bereiten Sie Ihre Daten vor, indem Sie sie in kleine Absätze aufteilen und in ./embeddedData/sourceData.txt speichern.
   • Führen Sie die embedding.js-Datei aus, um Embeddings zu generieren: node embedding.js

5. Antworten generieren:

   • Führen Sie die completion.js-Datei mit Ihrer Frage aus: node completion.js generateCompletion("Wer ist der amtierende Dekan der Fakultät für Wirtschaftswissenschaften");

Für wen ist QueryGPT geeignet?

QueryGPT ist ideal für:

• Unternehmen: Erstellen Sie Chatbots für Produktdokumentation und Kundensupport.
• Forscher: Erstellen Sie Tools zur Analyse wissenschaftlicher Arbeiten und Forschungsdaten.
• Pädagogen: Entwickeln Sie interaktive Lernressourcen auf der Grundlage von Kursmaterialien.
• Jeder, der einen 개인isierten AI-Assistenten möchte, der aus seinen eigenen Daten lernt.

Warum QueryGPT wählen?

• Kontrolle über Daten: Sie haben die vollständige Kontrolle über die vom Chatbot verwendete Wissensdatenbank.
• Genauigkeit: Embeddings gewährleisten semantisches Verständnis und präzisen Kontextabruf.
• Anpassung: Passen Sie den Chatbot mit anpassbaren Prompts an Ihre spezifischen Bedürfnisse an.
• Open Source: Kostenlos zu verwenden und zu ändern.

QueryGPT bietet eine leistungsstarke und flexible Möglichkeit, AI-gestützte Q&A-Systeme zu erstellen. Durch die Kombination der Leistung von NodeJS und OpenAI können Sie intelligente Chatbots erstellen, die genaue und personalisierte Antworten aus Ihren eigenen Daten liefern.