AI Runner

AI Runner：你的本地 AI 动力源泉

AI Runner 是一款开源的、离线的推理引擎，旨在将 AI 的强大功能带到你的本地机器上。它支持广泛的功能，包括艺术生成、实时语音对话、LLM 驱动的聊天机器人和自动化工作流程，同时优先考虑隐私和安全。

什么是 AI Runner？

AI Runner 是一款多功能的工具，允许你直接在电脑上运行 AI 模型，而无需依赖外部 API 或云服务。这意味着你可以在不损害数据隐私或产生额外成本的情况下，享受 AI 的好处。

AI Runner 是如何工作的？

AI Runner 利用你的本地硬件，包括 CPU 和 GPU，来执行 AI 计算。它支持各种 AI 模型和框架，允许你自定义和扩展其功能，以满足你的特定需求。通过在本地运行模型，AI Runner 消除了对持续互联网连接的需求，并减少了延迟，从而提供更快、更具响应性的 AI 体验。

AI Runner 的主要特性

• 实时对话：
  • 支持三种语音引擎：espeak、SpeechT5 和 OpenVoice。
  • 提供使用 OpenVoice 的自动语言检测。
  • 支持与 LLM 进行实时语音聊天。
• 可定制的 AI 代理：
  • 允许你创建自定义的代理名称、情绪和个性。
  • 支持检索增强生成 (RAG)，以增强知识检索。
  • 支持创建 AI 个性和情绪。
• 增强的知识检索：
  • 利用 RAG 对文档和网站进行检索，允许你使用本地数据来丰富聊天互动。
• 图像生成与处理：
  • 支持使用 Stable Diffusion 1.5、SDXL 和 Turbo 进行文本到图像的生成。
  • 提供绘图工具和 ControlNet 支持，以进行高级图像处理。
  • 提供 LoRA 和 Embeddings 支持。
  • 包括修复、外绘和滤镜功能。
• 多语言能力：
  • 提供部分多语言 TTS/STT/界面支持。
  • 支持英语和日语 GUI。
• 隐私和安全：
  • 在本地运行，默认情况下确保没有外部 API 依赖。
  • 提供可定制的 LLM 防护栏和图像安全功能。
  • 禁用 HuggingFace 遥测。
  • 限制网络访问。
• 性能与实用性：
  • 提供快速生成速度（在 RTX 2080s 上约为 2 秒）。
  • 提供基于 Docker 的设置和 GPU 加速。
  • 支持主题（浅色/深色/系统）。
  • 包括 NSFW 开关。
  • 提供扩展 API 和 Python 库与 API 支持。
• 语言支持：
  • 支持 TTS、LLM、STT 和 GUI 的各种语言，包括英语、日语、西班牙语、法语、中文和韩语。

如何使用 AI Runner？

1. 安装： 按照 安装 Wiki 中提供的详细安装说明进行操作。快速启动包括安装系统要求、创建 airunner 目录以及使用 pip 安装 AI Runner。
2. 基本用法：
   • 运行 AI Runner：airunner
   • 运行下载器：airunner-setup
   • 构建模板：airunner-build-ui
3. 模型： 下载文本到语音、语音到文本、文本生成和图像生成所需的模型。将它们组织在本地 AI Runner 数据目录 (~/.local/share/airunner) 下。
4. 配置： 如果需要，为可选的第三方服务（如 Google Custom Search、Bing Web Search 和 NewsAPI）设置 API 密钥。
5. 斜杠工具： 在聊天提示中使用斜杠命令来快速触发诸如图像生成 (/a)、代码执行 (/c) 和网络搜索 (/s) 等操作。

为什么选择 AI Runner？

• 隐私： 通过在本地运行 AI 模型来确保你的数据安全。
• 定制： 根据你的特定需求定制 AI 代理和工作流程。
• 性能： 享受快速的生成速度和响应式交互。
• 可扩展性： 使用扩展和自定义工具扩展 AI Runner 的功能。

AI Runner 适合哪些人？

AI Runner 适合：

• AI 爱好者： 有兴趣探索和试验 AI 技术的人。
• 开发者： 希望将 AI 集成到其应用程序和工作流程中的专业人士。
• 创意人员： 寻求使用 AI 生成和处理图像的艺术家和设计师。
• 研究人员： 研究 AI 和相关领域的学者和研究人员。

法规遵从与披露

AI Runner 包含帮助用户遵守新兴 AI 法规的功能。例如，它提供有关科罗拉多州 AI 法案 (SB 24-205) 的信息，告知用户作为高风险 AI 系统部署者的责任。

命令行工具

AI Runner 提供了几个用于开发、测试和维护的命令行工具。这些工具包括用于启动 GUI、下载模型、构建 UI 文件、运行测试和生成 SSL 证书的命令。

更多资源

• GitHub 仓库： https://github.com/Capsize-Games/airunner
• Wiki： 查阅 AI Runner Wiki，获取详细文档和高级主题。
• 贡献： 提交针对新功能、错误修复或文档改进的 pull 请求，为项目做出贡献。

AI Runner 使你能够利用 AI 的潜力，同时保持对你的数据和工作流程的控制。深入探索并发现各种可能性吧！