AI Runner

AI Runner: Sua Central de IA Local

AI Runner é um motor de inferência de código aberto e offline projetado para trazer o poder da IA para sua máquina local. Ele oferece suporte a uma ampla gama de funcionalidades, incluindo geração de arte, conversas de voz em tempo real, chatbots baseados em LLM e fluxos de trabalho automatizados, tudo isso priorizando a privacidade e a segurança.

O que é AI Runner?

AI Runner é uma ferramenta versátil que permite executar modelos de IA diretamente no seu computador, sem depender de APIs externas ou serviços de nuvem. Isso significa que você pode aproveitar os benefícios da IA sem comprometer a privacidade dos seus dados ou incorrer em custos adicionais.

Como o AI Runner funciona?

AI Runner utiliza seu hardware local, incluindo sua CPU e GPU, para realizar cálculos de IA. Ele oferece suporte a vários modelos e frameworks de IA, permitindo que você personalize e estenda suas capacidades para atender às suas necessidades específicas. Ao executar modelos localmente, o AI Runner elimina a necessidade de conectividade constante com a internet e reduz a latência, proporcionando uma experiência de IA mais rápida e responsiva.

Principais recursos do AI Runner

• Conversas em tempo real:
  • Suporta três mecanismos de fala: espeak, SpeechT5 e OpenVoice.
  • Oferece detecção automática de idioma usando o OpenVoice.
  • Permite bate-papo por voz em tempo real com LLMs.
• Agentes de IA personalizáveis:
  • Permite criar nomes, humores e personalidades de agentes personalizados.
  • Suporta Geração Aumentada de Recuperação (RAG) para recuperação de conhecimento aprimorada.
  • Permite a criação de personalidades e humores de IA.
• Recuperação de conhecimento aprimorada:
  • Utiliza RAG para documentos e sites, permitindo que você use dados locais para enriquecer as interações de bate-papo.
• Geração e manipulação de imagens:
  • Suporta a geração de texto para imagem usando Stable Diffusion 1.5, SDXL e Turbo.
  • Fornece ferramentas de desenho e suporte ControlNet para manipulação avançada de imagens.
  • Oferece suporte a LoRA e Embeddings.
  • Inclui funcionalidades de inpainting, outpainting e filtro.
• Capacidades multilíngues:
  • Fornece suporte multilíngue parcial para TTS/STT/interface.
  • Suporta GUI em inglês e japonês.
• Privacidade e segurança:
  • É executado localmente, garantindo que não haja dependências de API externas por padrão.
  • Oferece proteções LLM personalizáveis e recursos de segurança de imagem.
  • Desativa a telemetria do HuggingFace.
  • Restringe o acesso à rede.
• Desempenho e utilidade:
  • Oferece velocidades de geração rápidas (aproximadamente 2 segundos em RTX 2080s).
  • Fornece configuração baseada em Docker e aceleração de GPU.
  • Suporta temas (Claro/Escuro/Sistema).
  • Inclui alternâncias NSFW.
  • Oferece uma API de extensão e suporte para biblioteca e API Python.
• Suporte a idiomas:
  • Suporta vários idiomas para TTS, LLM, STT e GUI, incluindo inglês, japonês, espanhol, francês, chinês e coreano.

Como usar o AI Runner?

1. Instalação: Siga as instruções de instalação detalhadas fornecidas no Wiki de Instalação. O início rápido envolve a instalação dos requisitos do sistema, a criação de um diretório airunner e a instalação do AI Runner usando o pip.
2. Uso básico:
   • Executar AI Runner: airunner
   • Executar o downloader: airunner-setup
   • Construir modelos: airunner-build-ui
3. Modelos: Baixe os modelos necessários para conversão de texto em fala, fala em texto, geração de texto e geração de imagem. Organize-os no diretório de dados local do AI Runner (~/.local/share/airunner).
4. Configuração: Configure as chaves de API para serviços opcionais de terceiros, como Google Custom Search, Bing Web Search e NewsAPI, se desejar.
5. Slash Tools: Use comandos de barra no prompt de bate-papo para acionar rapidamente ações como geração de imagem (/a), execução de código (/c) e pesquisa na web (/s).

Por que escolher o AI Runner?

• Privacidade: Mantenha seus dados seguros executando modelos de IA localmente.
• Personalização: Adapte agentes e fluxos de trabalho de IA às suas necessidades específicas.
• Desempenho: Desfrute de velocidades de geração rápidas e interações responsivas.
• Extensibilidade: Expanda a funcionalidade do AI Runner com extensões e ferramentas personalizadas.

Para quem é o AI Runner?

AI Runner é adequado para:

• Entusiastas de IA: Indivíduos interessados em explorar e experimentar tecnologias de IA.
• Desenvolvedores: Profissionais que buscam integrar IA em seus aplicativos e fluxos de trabalho.
• Criativos: Artistas e designers que buscam gerar e manipular imagens usando IA.
• Pesquisadores: Acadêmicos e pesquisadores que estudam IA e áreas relacionadas.

Conformidade regulatória e divulgações

AI Runner inclui recursos para ajudar os usuários a cumprir as regulamentações de IA emergentes. Por exemplo, ele fornece informações sobre a Lei de IA do Colorado (SB 24-205), informando os usuários sobre suas responsabilidades como implementadores de sistemas de IA de alto risco.

Ferramentas de linha de comando

AI Runner fornece várias ferramentas de linha de comando para desenvolvimento, teste e manutenção. Isso inclui comandos para iniciar a GUI, baixar modelos, construir arquivos de interface do usuário, executar testes e gerar certificados SSL.

Recursos adicionais

• Repositório GitHub: https://github.com/Capsize-Games/airunner
• Wiki: Consulte o Wiki do AI Runner para obter documentação detalhada e tópicos avançados.
• Contribuição: Contribua com o projeto enviando pull requests para novos recursos, correções de bugs ou melhorias na documentação.

AI Runner permite que você aproveite o potencial da IA, mantendo o controle sobre seus dados e fluxo de trabalho. Mergulhe e explore as possibilidades!