Nexa SDK

Nexa SDK：AIモデルを数分でどんなデバイスにもデプロイ

Nexa SDKは、モバイルフォン、PC、自動車システム、IoTデバイスなど、さまざまなデバイスへのAIモデルのデプロイを効率化するために設計されたソフトウェア開発キットです。NPU（Neural Processing Unit）、GPU（Graphics Processing Unit）、CPU（Central Processing Unit）などのさまざまなバックエンドで、高速、プライベート、かつ本番環境に対応したオンデバイス推論を提供することに重点を置いています。

Nexa SDKとは？

Nexa SDKは、AIモデルをエッジデバイスにデプロイする複雑なプロセスを簡素化するツールです。大規模言語モデル（LLM）、マルチモーダルモデル、自動音声認識（ASR）、テキスト読み上げ（TTS）モデルなどの高度なモデルをデバイス上で直接実行できるため、速度とプライバシーの両方を確保できます。

Nexa SDKの仕組み

Nexa SDKは、AIモデルをさまざまなハードウェアプラットフォームに変換、最適化、デプロイするために必要なツールとインフラストラクチャを開発者に提供することで動作します。NexaQuantなどのテクノロジーを活用して、精度を大幅に損なうことなくモデルを圧縮し、リソースが限られたデバイスでも効率的に実行できるようにします。

SDKには、次のような機能が含まれています。

• モデルハブ： 事前トレーニング済みで最適化されたさまざまなAIモデルへのアクセス。
• Nexa CLI： ローカルのOpenAI互換APIを使用してモデルをテストし、迅速なプロトタイピングを行うためのコマンドラインインターフェイス。
• デプロイメントSDK： Windows、macOS、Linux、Android、iOSなどのさまざまなオペレーティングシステム上のアプリケーションにモデルを統合するためのツール。

主な機能と利点

• クロスプラットフォーム互換性： さまざまなデバイスおよびオペレーティングシステムにAIモデルをデプロイ。
• 最適化されたパフォーマンス： NPUでより高速でエネルギー効率の高いAI推論を実現。
• モデル圧縮： NexaQuantテクノロジーを使用して、精度を犠牲にすることなくモデルを縮小。
• プライバシー： デバイス上でAIモデルを実行し、ユーザーデータのプライバシーを確保。
• 使いやすさ： わずか数行のコードでモデルをデプロイ。

SOTAオンデバイスAIモデル

Nexa SDKは、オンデバイス推論用に最適化されたさまざまな最先端（SOTA）AIモデルをサポートしています。これらのモデルは、次のような幅広いアプリケーションをカバーしています。

• 大規模言語モデル：
  • Llama3.2-3B-NPU-Turbo
  • Llama3.2-3B-Intel-NPU
  • Llama3.2-1B-Intel-NPU
  • Llama-3.1-8B-Intel-NPU
  • Granite-4-Micro
• マルチモーダルモデル：
  • Qwen3-VL-8B-Thinking
  • Qwen3-VL-8B-Instruct
  • Qwen3-VL-4B-Thinking
  • Qwen3-VL-4B-Instruct
  • Gemma3n-E4B
  • OmniNeural-4B
• 自動音声認識（ASR）：
  • parakeet-v3-ane
  • parakeet-v3-npu
• テキストから画像への生成：
  • SDXL-turbo
  • SDXL-Base
  • Prefect-illustrious-XL-v2.0p
• 物体検出：
  • YOLOv12‑N
• その他のモデル：
  • Jina-reranker-v2
  • DeepSeek-R1-Distill-Qwen-7B-Intel-NPU
  • embeddinggemma-300m-npu
  • DeepSeek-R1-Distill-Qwen-1.5B-Intel-NPU
  • phi4-mini-npu-turbo
  • phi3.5-mini-npu
  • Qwen3-4B-Instruct-2507
  • PaddleOCR v4
  • Qwen3-4B-Thinking-2507
  • Jan-v1-4B
  • Qwen3-4B
  • LFM2-1.2B

NexaQuant：モデル圧縮技術

NexaQuantは、Nexa AIが開発した独自の圧縮方法であり、最先端のモデルをフルプレシジョン精度を維持しながら、モバイル/エッジRAMに適合させることができます。このテクノロジーは、リソースが限られたデバイスに大規模なAIモデルをデプロイするために不可欠であり、メモリ使用量が少ない軽量アプリを可能にします。

Nexa SDKは誰向けですか？

Nexa SDKは、以下のような場合に最適です。

• AI開発者： 幅広いデバイスにモデルをデプロイしたい。
• モバイルアプリ開発者： パフォーマンスやプライバシーを損なうことなく、AI機能をアプリケーションに統合したい。
• 自動車エンジニア： 高度なAI搭載の車載体験を開発したい。
• IoTデバイスメーカー： デバイスでインテリジェントな機能を有効にしたい。

Nexa SDKを始めるには？

1. GitHubからNexa CLIをダウンロードします。
2. SDKをデプロイし、Windows、macOS、Linux、Android、iOS上のアプリに統合します。
3. 利用可能なモデルとツールで構築を開始します。

Nexa SDKを使用することで、開発者は高度なAI機能を幅広いデバイスに導入し、新しい革新的なアプリケーションを実現できます。スマートフォンで大規模言語モデルを実行する場合でも、IoTデバイスでリアルタイムの物体検出を有効にする場合でも、Nexa SDKはそれを可能にするためのツールとインフラストラクチャを提供します。