LMQL

LMQLとは？

LMQL（Language Model Query Language）は、大規模言語モデル（LLM）と対話するために設計されたプログラミング言語です。ETH ZurichのSRI Labと貢献者によって開発されたLMQLを使用すると、開発者は型、テンプレート、制約、および最適化ランタイムを使用して、堅牢でモジュール式のLLMプロンプトを構築できます。基本的に、手続き型プログラミングパラダイムをLLMの世界にもたらし、プロンプトエンジニアリングをより構造化され、管理しやすくします。

LMQLの仕組み

LMQLを使用すると、開発者はLLMの出力をガイドするクエリを定義できます。主要な概念の内訳は次のとおりです。

• テンプレート： LMQLは、テンプレートを使用してプロンプトを構造化します。これらのテンプレートには、LLMが入力する変数を含めることができます。
• 制約： 開発者は、where句を使用して、生成された出力に制約を課すことができます。これらの制約は、長さ、特定のパターン、またはカスタムPython関数に基づくことができます。
• 型： LMQLは型付き変数をサポートしており、LLMの出力が整数や文字列などの特定の形式に準拠していることを保証します。
• ネストされたクエリ： ネストされたクエリの導入により、LMQLはモジュール化されたローカル命令とプロンプトコンポーネントの再利用を可能にします。この機能により、複雑なプロンプトの管理と再利用可能なプロンプトモジュールの作成が容易になります。

コアアイデアは、LLMをプログラム可能なコンポーネントとして扱い、信頼性と保守性を向上させる構造化されたプロンプトエンジニアリングのアプローチを提供することです。LMQLは、llama.cpp、OpenAI、Transformersなど、複数のバックエンドもサポートしており、LLMプロバイダーの選択に柔軟性を持たせています。

LMQLの主な機能

• 堅牢なプロンプト： LMQLは、エラーが発生しにくく、目的の出力を生成する上でより信頼性の高いプロンプトの作成に役立ちます。
• モジュール式プロンプト： 再利用可能なプロンプトコンポーネントとネストされたクエリを作成する機能は、モジュール性と保守性を促進します。
• 制約ベースの生成： 制約により、LLMの出力が長さや形式などの特定の要件を満たすことが保証されます。
• マルチバックエンドのサポート： LMQLは、さまざまなLLMプロバイダーで使用できるため、移植性と柔軟性が確保されます。
• Pythonの統合： LMQLクエリはPythonから直接定義および実行できるため、既存のPythonコードベースとの統合が容易になります。
• 型安全性： 型付き変数は出力形式を保証し、後処理と検証の必要性を減らします。

LMQLの使用方法

LMQLの使用には、@lmql.queryで装飾されたPython関数としてクエリを定義することが含まれます。これらのクエリ内で、プロンプト、変数、および制約を定義できます。元のテキストからの簡単な例を次に示します。

@lmql.query
def meaning_of_life():
    '''lmql
    "Q: What is the answer to life, the     universe and everything?"

    "A: [ANSWER]" where         len(ANSWER) < 120 and STOPS_AT(ANSWER, ".")

    print("LLM returned", ANSWER)
    return ANSWER
    '''

meaning_of_life() # The program returns the meaning of life.

この例では、プロンプトを定義し、変数（ANSWER）を使用してLLMの出力をキャプチャし、回答が120文字未満でピリオドで終わるように制約を適用する方法を示しています。

LMQLは誰のためのものですか？

LMQLは特に次のような場合に役立ちます。

• LLMを使用する開発者： プロンプトを作成および管理するための構造化された方法が必要です。
• 研究者： さまざまなプロンプト技術と制約を試したいと考えています。
• チーム： LLMを搭載したアプリケーションの一貫性と信頼性を確保する必要があります。

LMQLの使用例

• チャットボット： LMQLを使用して、より信頼性が高く、コンテキストを認識したチャットボットの応答を作成できます。
• データ抽出： 制約を使用して、抽出されたデータが特定の形式に準拠していることを確認できます。
• コンテンツ生成： LMQLを使用して、長さやスタイルなどの特定の要件を満たすコンテンツを生成できます。
• ツールの拡張： ツールをより適切に出力するために使用されます。

LMQL vs 従来のプロンプト

要するに、LMQLは、従来の方法と比較して、LLMプロンプトに対するより堅牢で、モジュール式で、保守しやすいアプローチを提供します。