llm-answer-engine

LLMアンサーエンジン：独自のAI搭載質問応答システムを構築する

このオープンソースプロジェクトllm-answer-engineは、Perplexityに触発された高度なAIアンサーエンジンを構築するためのコードと手順を提供します。Groq、Mistral AIのMixtral、Langchain.JS、Brave Search、Serper API、OpenAIなどの最先端技術を活用して、ユーザーのクエリに対する包括的な回答を、ソース、画像、ビデオ、フォローアップの質問とともに提供します。

llm-answer-engineとは？

llm-answer-engineは、自然言語処理および検索テクノロジーの探求に関心のある開発者向けの出発点です。これにより、次の方法で質問に効率的に回答するシステムを作成できます。

• さまざまなソースから関連情報を取得する。
• 簡潔で有益な回答を生成する。
• 裏付けとなる証拠と関連メディアを提供する。
• さらなる探索を導くためのフォローアップの質問を提案する。

llm-answer-engineはどのように機能しますか？

このエンジンは、さまざまなテクノロジーを組み合わせて、ユーザーのクエリを処理し、関連する応答を生成します。

1. クエリの理解： GroqやMixtralなどのテクノロジーを使用して、ユーザーの質問を処理および理解します。
2. 情報検索：
   • Brave Search： プライバシーを重視した検索エンジンを使用して、関連コンテンツと画像を検索します。
   • Serper API： ユーザーのクエリに基づいて、関連するビデオおよび画像の結果を取得するために使用されます。
   • Cheerio： HTML解析に使用され、Webページからコンテンツを抽出できます。
3. テキスト処理：
   • Langchain.JS： テキストの分割や埋め込みなど、テキスト操作に焦点を当てたJavaScriptライブラリ。
   • OpenAI Embeddings： テキストチャンクのベクトル表現を作成するために使用されます。
4. オプションのコンポーネント：
   • Ollama： ストリーミング推論と埋め込みに使用されます。
   • Upstash Redis Rate Limiting： アプリケーションのレート制限を設定するために使用されます。
   • Upstash Semantic Cache： より高速な応答時間のためにデータをキャッシュするために使用されます。

主な機能とテクノロジー：

• Next.js： サーバーサイドレンダリングされた静的なWebアプリケーションを構築するためのReactフレームワークで、ユーザーインターフェイスの堅牢な基盤を提供します。
• Tailwind CSS： ユーティリティファーストCSSフレームワークで、カスタムユーザーインターフェイスを迅速に構築し、効率的なスタイリングとカスタマイズを実現します。
• Vercel AI SDK： AIを搭載したストリーミングテキストおよびチャットUIを構築するためのライブラリで、リアルタイムフィードバックによりユーザーエクスペリエンスを向上させます。
• Function Calling Support (ベータ版): Maps & Locations (Serper Locations API)、Shopping (Serper Shopping API)、TradingView Stock Data、Spotifyとの統合により機能を拡張します。
• Ollama Support（部分的にサポート）： テキスト応答と埋め込みをストリーミングするためのOllamaとの互換性を提供し、ローカルモデルの実行を可能にします。

llm-answer-engineの使い方？

llm-answer-engineを使い始めるには、次の手順に従ってください。

1. 前提条件：
   • OpenAI、Groq、Brave Search、SerperからAPIキーを取得します。
   • Node.jsとnpm（またはbun）がインストールされていることを確認します。
   • （オプション）コンテナ化されたデプロイメントのためにDockerとDocker Composeをインストールします。
2. インストール：

   git clone https://github.com/developersdigest/llm-answer-engine.git
   cd llm-answer-engine
   

3. 構成：
   • Docker： docker-compose.ymlファイルを編集し、APIキーを追加します。
   • Non-Docker： プロジェクトのルートに.envファイルを作成し、APIキーを追加します。
4. サーバーの実行：
   • Docker：

     docker compose up -d
     

   • Non-Docker：

     npm install  # or bun install
     npm run dev  # or bun run dev
     

サーバーは指定されたポートでリッスンします。

llm-answer-engineを選ぶ理由？

• Perplexityに触発された： 主要なAIアンサーエンジンと同様のユーザーエクスペリエンスを提供します。
• 強力なテクノロジーを活用する： NLP、検索、Web開発の最高のものを組み合わせます。
• オープンソースでカスタマイズ可能： エンジンを特定のニーズに合わせて調整できます。
• Function Calling Support： Maps & Locations、Shopping、TradingView Stock Data、Spotifyとの統合により機能を拡張します。

llm-answer-engineは誰のためのものですか？

このプロジェクトは以下に最適です。

• 自然言語処理と検索テクノロジーに関心のある開発者。
• 質問応答システムを研究している研究者。
• 独自のAI搭載ナレッジベースを構築したい人。

ロードマップ：

プロジェクトのロードマップには、次のようなエキサイティングな機能が含まれています。

• ドキュメント検索/検索用のドキュメントアップロード+ RAG。
• ユーザーがUIからモデル、埋め込みモデル、およびその他のパラメーターを選択できる設定コンポーネント。
• Ollamaを使用する場合のフォローアップの質問のサポートを追加する

貢献：

貢献を歓迎します！リポジトリをフォークし、変更を加え、プルリクエストを送信してください。

このプロジェクトはMITライセンスの下でライセンスされています。

独自のAI搭載アンサーエンジンを構築し、llm-answer-engineで自然言語処理の可能性を探りましょう！