LMQL

LMQLとは？

LMQL（Language Model Query Language）は、大規模言語モデル（LLM）とのインタラクションのために特別に設計されたプログラミング言語です。型、テンプレート、制約、および最適化されたランタイムを活用して、LLMプロンプトに対する堅牢でモジュール化されたアプローチを提供し、信頼性の高い制御可能な結果を保証します。LMQLは、従来のプログラミングパラダイムとLLMの確率的な性質との間のギャップを埋め、開発者がより洗練された予測可能なAIアプリケーションを構築できるようにすることを目指しています。

LMQLはどのように機能するのですか？

LMQLは、開発者がプロンプトをコードとして定義し、変数、制約、および制御フローを組み込むことによって機能します。このアプローチは、構造化が不十分で管理が難しい従来の文字列ベースのプロンプトとは対照的です。LMQLの主要な機能の内訳は次のとおりです。

• 型付き変数： LMQLを使用すると、特定のデータ型（int、strなど）を持つ変数を定義して、LLMの出力が予期される形式に準拠するようにすることができます。この機能は、構造化されたデータを必要とするアプリケーションを構築する上で重要です。
• テンプレート： LMQLはテンプレートをサポートしており、再利用可能なプロンプトコンポーネントの作成を可能にします。テンプレートは変数でパラメータ化できるため、動的なプロンプトを簡単に生成できます。
• 制約： LMQLを使用すると、LLMの出力に、最大長や特定のキーワードなどの制約を指定できます。これらの制約はLMQLランタイムによって適用され、LLMの応答が要件を満たしていることを保証します。
• ネストされたクエリ： LMQLはネストされたクエリをサポートしており、プロンプトをモジュール化してプロンプトコンポーネントを再利用できます。この機能は、LLMとの複数ステップのインタラクションを必要とする複雑なタスクに特に役立ちます。
• 複数のバックエンド：LMQLを使用すると、LLMコードを複数のバックエンドで自動的に移植可能にすることができます。1行のコードでそれらを切り替えることができます。

例

@lmql.query
def meaning_of_life():
    '''lmql
    # top-level strings are prompts
    "Q: What is the answer to life, the \
     universe and everything?"

    # generation via (constrained) variables
    "A: [ANSWER]" where \
        len(ANSWER) < 120 and STOPS_AT(ANSWER, ".")

    # results are directly accessible
    print("LLM returned", ANSWER)

    # use typed variables for guaranteed 
    # output format
    "The answer is [NUM: int]"

    # query programs are just functions 
    return NUM
    '''

## so from Python, you can just do this
meaning_of_life() # 42

LMQLの使い方は？

1. インストール：

   pipを使用してLMQLをインストールします。

   pip install lmql
   

2. クエリを定義する：

   @lmql.queryデコレータを使用してLMQLクエリを記述します。これらのクエリには、プロンプト、変数、および制約を含めることができます。

3. クエリを実行する：

   通常のPython関数のようにLMQLクエリを実行します。LMQLランタイムは、LLMとのインタラクションを処理し、指定された制約を適用します。

4. 結果にアクセスする：

   LMQLクエリで定義された変数を通じて、LLMの出力にアクセスします。

LMQLを選ぶ理由？

• 堅牢性： LMQLの型と制約は、LLMの出力が信頼性が高く一貫性があることを保証するのに役立ちます。
• モジュール性： LMQLのテンプレートとネストされたクエリは、コードの再利用とモジュール性を促進します。
• 移植性： LMQLは複数のLLMバックエンドで動作するため、異なるモデル間を簡単に切り替えることができます。
• 表現力： LMQLのPython統合により、Pythonのすべての機能を活用して、プロンプトの構築と後処理を行うことができます。

LMQLは誰のためのものですか？

LMQLは、LLMの動作を正確に制御する必要があるAIアプリケーションを構築したい開発者に適しています。特に、次のようなタスクに役立ちます。

• データ抽出： テキストから構造化されたデータを抽出します。
• コード生成： 自然言語の説明に基づいてコードを生成します。
• チャットボット： 予測可能で一貫した応答を備えたチャットボットを構築します。
• 質問応答： 構造化された知識に基づいて質問に答えます。

LMQLを使用することで、開発者はLLMの能力を活用して、より信頼性が高く、モジュール化され、移植可能なAIアプリケーションを構築できます。

LMQLを使用する最良の方法は、ドキュメントを確認し、簡単な例から始めて、ニーズに合わせてプロンプトの複雑さを徐々に増していくことです。