AI Runner

AI Runner : Votre centrale d’IA locale

AI Runner est un moteur d’inférence hors ligne et open source conçu pour apporter la puissance de l’IA à votre machine locale. Il prend en charge un large éventail de fonctionnalités, notamment la génération d’art, les conversations vocales en temps réel, les chatbots basés sur LLM et les flux de travail automatisés, tout en privilégiant la confidentialité et la sécurité.

Qu’est-ce qu’AI Runner ?

AI Runner est un outil polyvalent qui vous permet d’exécuter des modèles d’IA directement sur votre ordinateur sans dépendre d’API externes ou de services cloud. Cela signifie que vous pouvez profiter des avantages de l’IA sans compromettre la confidentialité de vos données ni engager de coûts supplémentaires.

Comment fonctionne AI Runner ?

AI Runner exploite votre matériel local, notamment votre CPU et votre GPU, pour effectuer des calculs d’IA. Il prend en charge divers modèles et frameworks d’IA, ce qui vous permet de personnaliser et d’étendre ses capacités pour répondre à vos besoins spécifiques. En exécutant des modèles localement, AI Runner élimine le besoin d’une connectivité Internet constante et réduit la latence, offrant ainsi une expérience d’IA plus rapide et plus réactive.

Principales fonctionnalités d’AI Runner

• Conversations en temps réel:
  • Prend en charge trois moteurs vocaux : espeak, SpeechT5 et OpenVoice.
  • Offre la détection automatique de la langue à l’aide d’OpenVoice.
  • Permet le chat vocal en temps réel avec les LLM.
• Agents d’IA personnalisables:
  • Vous permet de créer des noms, des humeurs et des personnalités d’agent personnalisés.
  • Prend en charge la génération augmentée de récupération (RAG) pour une récupération des connaissances améliorée.
  • Permet la création de personnalités et d’humeurs d’IA.
• Récupération des connaissances améliorée:
  • Utilise RAG pour les documents et les sites web, vous permettant d’utiliser des données locales pour enrichir les interactions de chat.
• Génération et manipulation d’images:
  • Prend en charge la génération de texte à image à l’aide de Stable Diffusion 1.5, SDXL et Turbo.
  • Fournit des outils de dessin et une prise en charge de ControlNet pour la manipulation avancée d’images.
  • Offre une prise en charge de LoRA et d’intégrations.
  • Comprend des fonctionnalités de remplissage, de surpeinture et de filtre.
• Capacités multilingues:
  • Fournit une prise en charge multilingue partielle pour TTS/STT/interface.
  • Prend en charge l’interface graphique en anglais et en japonais.
• Confidentialité et sécurité:
  • S’exécute localement, ce qui garantit l’absence de dépendances vis-à-vis des API externes par défaut.
  • Offre des garde-fous LLM personnalisables et des fonctions de sécurité d’image.
  • Désactive la télémétrie HuggingFace.
  • Restreint l’accès au réseau.
• Performances et utilité:
  • Offre des vitesses de génération rapides (environ 2 secondes sur RTX 2080s).
  • Fournit une configuration basée sur Docker et une accélération GPU.
  • Prend en charge les thèmes (clair/foncé/système).
  • Comprend des bascules NSFW.
  • Offre une API d’extension et une prise en charge de la bibliothèque et de l’API Python.
• Prise en charge des langues:
  • Prend en charge diverses langues pour TTS, LLM, STT et GUI, notamment l’anglais, le japonais, l’espagnol, le français, le chinois et le coréen.

Comment utiliser AI Runner ?

1. Installation: Suivez les instructions d’installation détaillées fournies dans le Wiki d’installation. Le démarrage rapide implique l’installation de la configuration système requise, la création d’un répertoire airunner et l’installation d’AI Runner à l’aide de pip.
2. Utilisation de base:
   • Exécuter AI Runner : airunner
   • Exécuter le téléchargeur : airunner-setup
   • Créer des modèles : airunner-build-ui
3. Modèles: Téléchargez les modèles nécessaires pour la synthèse vocale, la reconnaissance vocale, la génération de texte et la génération d’images. Organisez-les dans le répertoire de données AI Runner local (~/.local/share/airunner).
4. Configuration: Configurez les clés API pour les services tiers facultatifs tels que Google Custom Search, Bing Web Search et NewsAPI, si vous le souhaitez.
5. Outils Slash: Utilisez les commandes slash dans l’invite de chat pour déclencher rapidement des actions telles que la génération d’images (/a), l’exécution de code (/c) et la recherche sur le web (/s).

Pourquoi choisir AI Runner ?

• Confidentialité: Protégez vos données en exécutant des modèles d’IA localement.
• Personnalisation: Adaptez les agents d’IA et les flux de travail à vos besoins spécifiques.
• Performances: Bénéficiez de vitesses de génération rapides et d’interactions réactives.
• Extensibilité: Développez les fonctionnalités d’AI Runner avec des extensions et des outils personnalisés.

À qui s’adresse AI Runner ?

AI Runner convient aux personnes suivantes :

• Les passionnés d’IA: Les personnes intéressées par l’exploration et l’expérimentation des technologies d’IA.
• Les développeurs: Les professionnels qui cherchent à intégrer l’IA dans leurs applications et flux de travail.
• Les créatifs: Les artistes et les concepteurs qui cherchent à générer et à manipuler des images à l’aide de l’IA.
• Les chercheurs: Les universitaires et les chercheurs qui étudient l’IA et les domaines connexes.

Conformité réglementaire et divulgations

AI Runner comprend des fonctionnalités pour aider les utilisateurs à se conformer aux réglementations émergentes en matière d’IA. Par exemple, il fournit des informations concernant la loi du Colorado sur l’IA (SB 24-205), informant les utilisateurs de leurs responsabilités en tant que déployeurs de systèmes d’IA à haut risque.

Outils de ligne de commande

AI Runner fournit plusieurs outils de ligne de commande pour le développement, les tests et la maintenance. Il s’agit notamment des commandes permettant de lancer l’interface graphique, de télécharger des modèles, de créer des fichiers d’interface utilisateur, d’exécuter des tests et de générer des certificats SSL.

Ressources supplémentaires

• Référentiel GitHub: https://github.com/Capsize-Games/airunner
• Wiki: Consultez le Wiki AI Runner pour obtenir une documentation détaillée et des sujets avancés.
• Contribution: Contribuez au projet en soumettant des demandes de tirage pour de nouvelles fonctionnalités, des corrections de bogues ou des améliorations de la documentation.

AI Runner vous permet d’exploiter le potentiel de l’IA tout en gardant le contrôle de vos données et de votre flux de travail. Plongez-vous et explorez les possibilités !