LM Studio

LM Studio：在本地计算机上运行 LLM

什么是 LM Studio？

LM Studio 是一款功能强大且用户友好的软件，即使没有编程技能，您也可以直接在计算机上运行大型语言模型 (LLM)。它支持来自 Hugging Face 的各种模型，例如 LLaMa、MPT、Gemma 等。

主要特点：

• 离线功能： 完全离线地在您的笔记本电脑上运行 LLM，确保隐私和安全。
• 易于使用的界面： 直观的界面让您可以轻松浏览、下载和运行 AI 模型。
• Hugging Face 集成： 直接从 Hugging Face 存储库下载兼容的模型文件。
• 模型发现： 通过应用程序的主页发现新的和值得注意的 LLM。
• 操场模式： 同时运行多个 AI 模型以利用它们的组合功能。

如何使用 LM Studio：

1. 下载并安装： 访问 LM Studio 网站，选择适用于您的操作系统（Mac、Windows、Linux）的版本，然后按照安装说明进行操作。
2. 探索模型： 使用应用程序的界面浏览和下载 Hugging Face 的 LLM。
3. 运行模型： 使用应用程序内的聊天 UI 或与 OpenAI 兼容的本地服务器与模型交互。

为什么 LM Studio 很重要？

LM Studio 通过使用户能够在本地运行强大的语言模型来普及 AI。这有利于：

• 隐私： 保护您的数据和交互的私密性，因为一切都在您自己的计算机上运行。
• 可访问性： 无需昂贵的云服务或复杂的设置。
• 实验： 轻松试验不同的模型和配置。

最低要求：

• 带有 macOS 13.6 或更新版本的 Apple Silicon Mac（M1/M2/M3）。
• 支持 AVX2 的处理器的 Windows/Linux PC。
• 16GB+ 内存（推荐）。
• PC 为 6GB+ VRAM（推荐）。支持 NVIDIA/AMD GPU。

我在哪里可以使用 LM Studio？

• 个人项目： 将 LLM 用于创意写作、研究或个人助理。
• 开发： 将 LLM 集成到您的应用程序和工作流程中。
• 学习： 探索不同 AI 模型的功能并了解语言处理。

LM Studio 免费吗？

LM Studio 供个人用户免费使用。查看 LM Studio 网站以获取有关商业用途和许可协议的最新信息。