AI Runner

AI Runner: Tu Central de Inteligencia Artificial Local

AI Runner es un motor de inferencia de código abierto y sin conexión diseñado para llevar el poder de la IA a tu máquina local. Admite una amplia gama de funcionalidades, incluyendo la generación de arte, conversaciones de voz en tiempo real, chatbots impulsados por LLM y flujos de trabajo automatizados, todo ello priorizando la privacidad y la seguridad.

¿Qué es AI Runner?

AI Runner es una herramienta versátil que te permite ejecutar modelos de IA directamente en tu ordenador sin depender de APIs externas o servicios en la nube. Esto significa que puedes disfrutar de los beneficios de la IA sin comprometer la privacidad de tus datos ni incurrir en costes adicionales.

¿Cómo funciona AI Runner?

AI Runner aprovecha tu hardware local, incluyendo tu CPU y GPU, para realizar cálculos de IA. Es compatible con varios modelos y frameworks de IA, lo que te permite personalizar y ampliar sus capacidades para adaptarlas a tus necesidades específicas. Al ejecutar los modelos localmente, AI Runner elimina la necesidad de una conectividad constante a Internet y reduce la latencia, proporcionando una experiencia de IA más rápida y con mayor capacidad de respuesta.

Características principales de AI Runner

• Conversaciones en tiempo real:
  • Admite tres motores de voz: espeak, SpeechT5 y OpenVoice.
  • Ofrece detección automática de idiomas mediante OpenVoice.
  • Permite el chat de voz en tiempo real con LLMs.
• Agentes de IA personalizables:
  • Te permite crear nombres, estados de ánimo y personalidades de agentes personalizados.
  • Admite la Generación Aumentada de Recuperación (RAG) para mejorar la recuperación de conocimientos.
  • Permite la creación de personalidades y estados de ánimo de IA.
• Recuperación de conocimiento mejorada:
  • Utiliza RAG para documentos y sitios web, lo que te permite utilizar datos locales para enriquecer las interacciones de chat.
• Generación y manipulación de imágenes:
  • Admite la generación de texto a imagen utilizando Stable Diffusion 1.5, SDXL y Turbo.
  • Proporciona herramientas de dibujo y soporte ControlNet para la manipulación avanzada de imágenes.
  • Ofrece soporte para LoRA y Embeddings.
  • Incluye funcionalidades de inpainting, outpainting y filtros.
• Capacidades multilingües:
  • Proporciona soporte multilingüe parcial para TTS/STT/interfaz.
  • Es compatible con GUI en inglés y japonés.
• Privacidad y seguridad:
  • Se ejecuta localmente, lo que garantiza que no haya dependencias de API externas de forma predeterminada.
  • Ofrece protecciones LLM personalizables y funciones de seguridad de imagen.
  • Desactiva la telemetría de HuggingFace.
  • Restringe el acceso a la red.
• Rendimiento y utilidad:
  • Ofrece velocidades de generación rápidas (aproximadamente 2 segundos en RTX 2080s).
  • Proporciona configuración basada en Docker y aceleración de GPU.
  • Admite temas (Claro/Oscuro/Sistema).
  • Incluye interruptores NSFW.
  • Ofrece una API de extensión y soporte para bibliotecas y APIs de Python.
• Soporte de idiomas:
  • Es compatible con varios idiomas para TTS, LLM, STT y GUI, incluyendo inglés, japonés, español, francés, chino y coreano.

¿Cómo usar AI Runner?

1. Instalación: Sigue las instrucciones de instalación detalladas que se proporcionan en la Wiki de instalación. El inicio rápido implica la instalación de los requisitos del sistema, la creación de un directorio airunner y la instalación de AI Runner utilizando pip.
2. Uso básico:
   • Ejecutar AI Runner: airunner
   • Ejecutar el descargador: airunner-setup
   • Construir plantillas: airunner-build-ui
3. Modelos: Descarga los modelos necesarios para la conversión de texto a voz, de voz a texto, generación de texto y generación de imágenes. Organízalos en el directorio de datos local de AI Runner (~/.local/share/airunner).
4. Configuración: Configura las claves de API para servicios opcionales de terceros como Google Custom Search, Bing Web Search y NewsAPI, si lo deseas.
5. Slash Tools: Utiliza comandos slash en el prompt de chat para activar rápidamente acciones como la generación de imágenes (/a), la ejecución de código (/c) y la búsqueda web (/s).

¿Por qué elegir AI Runner?

• Privacidad: Mantén tus datos seguros ejecutando modelos de IA localmente.
• Personalización: Adapta los agentes y flujos de trabajo de IA a tus necesidades específicas.
• Rendimiento: Disfruta de velocidades de generación rápidas e interacciones con capacidad de respuesta.
• Extensibilidad: Amplía la funcionalidad de AI Runner con extensiones y herramientas personalizadas.

¿Para quién es AI Runner?

AI Runner es adecuado para:

• Entusiastas de la IA: Individuos interesados en explorar y experimentar con las tecnologías de IA.
• Desarrolladores: Profesionales que buscan integrar la IA en sus aplicaciones y flujos de trabajo.
• Creativos: Artistas y diseñadores que buscan generar y manipular imágenes utilizando la IA.
• Investigadores: Académicos e investigadores que estudian la IA y los campos relacionados.

Cumplimiento normativo y divulgaciones

AI Runner incluye funciones para ayudar a los usuarios a cumplir con las regulaciones de IA emergentes. Por ejemplo, proporciona información sobre la Ley de IA de Colorado (SB 24-205), informando a los usuarios sobre sus responsabilidades como implementadores de sistemas de IA de alto riesgo.

Herramientas de línea de comandos

AI Runner proporciona varias herramientas de línea de comandos para el desarrollo, las pruebas y el mantenimiento. Estas incluyen comandos para iniciar la GUI, descargar modelos, construir archivos de interfaz de usuario, ejecutar pruebas y generar certificados SSL.

Recursos adicionales

• Repositorio de GitHub: https://github.com/Capsize-Games/airunner
• Wiki: Consulta la Wiki de AI Runner para obtener documentación detallada y temas avanzados.
• Contribución: Contribuye al proyecto enviando solicitudes de extracción para nuevas funciones, correcciones de errores o mejoras de la documentación.

AI Runner te permite aprovechar el potencial de la IA manteniendo el control sobre tus datos y flujo de trabajo. ¡Sumérgete y explora las posibilidades!