LM Studio - 本地运行LLM

LM Studio

3.5 | 275 | 0
类型:
网站
最后更新:
2025/08/22
资源描述:
LM Studio: 在您的笔记本电脑上本地运行 LLaMa、MPT、Gemma 和其他 LLM。从 Hugging Face 下载兼容的模型并离线使用。
分享:
LLM
本地AI
离线AI
AI模型
AI工具

LM Studio 概述

LM Studio:在本地计算机上运行 LLM

什么是 LM Studio?

LM Studio 是一款功能强大且用户友好的软件,即使没有编程技能,您也可以直接在计算机上运行大型语言模型 (LLM)。它支持来自 Hugging Face 的各种模型,例如 LLaMa、MPT、Gemma 等。

主要特点

  • 离线功能: 完全离线地在您的笔记本电脑上运行 LLM,确保隐私和安全。
  • 易于使用的界面: 直观的界面让您可以轻松浏览、下载和运行 AI 模型。
  • Hugging Face 集成: 直接从 Hugging Face 存储库下载兼容的模型文件。
  • 模型发现: 通过应用程序的主页发现新的和值得注意的 LLM。
  • 操场模式: 同时运行多个 AI 模型以利用它们的组合功能。

如何使用 LM Studio

  1. 下载并安装: 访问 LM Studio 网站,选择适用于您的操作系统(Mac、Windows、Linux)的版本,然后按照安装说明进行操作。
  2. 探索模型: 使用应用程序的界面浏览和下载 Hugging Face 的 LLM。
  3. 运行模型: 使用应用程序内的聊天 UI 或与 OpenAI 兼容的本地服务器与模型交互。

为什么 LM Studio 很重要?

LM Studio 通过使用户能够在本地运行强大的语言模型来普及 AI。这有利于:

  • 隐私: 保护您的数据和交互的私密性,因为一切都在您自己的计算机上运行。
  • 可访问性: 无需昂贵的云服务或复杂的设置。
  • 实验: 轻松试验不同的模型和配置。

最低要求

  • 带有 macOS 13.6 或更新版本的 Apple Silicon Mac(M1/M2/M3)。
  • 支持 AVX2 的处理器的 Windows/Linux PC。
  • 16GB+ 内存(推荐)。
  • PC 为 6GB+ VRAM(推荐)。支持 NVIDIA/AMD GPU。

我在哪里可以使用 LM Studio?

  • 个人项目: 将 LLM 用于创意写作、研究或个人助理。
  • 开发: 将 LLM 集成到您的应用程序和工作流程中。
  • 学习: 探索不同 AI 模型的功能并了解语言处理。

LM Studio 免费吗?

LM Studio 供个人用户免费使用。查看 LM Studio 网站以获取有关商业用途和许可协议的最新信息。

"LM Studio"的最佳替代工具

FridayGPT
暂无图片
17 0

FridayGPT 是一款适用于 Mac 的 AI 助手,可即时访问 ChatGPT、Claude 和其他 LLM。功能包括 Whisper 驱动的语音转文本和一键式 AI 操作,从而提高工作效率。

AI助手
语音转文本
Mac应用
Dot
暂无图片
Dot
95 0

Dot 是一款本地离线AI聊天工具,由 Mistral 7B 提供支持,允许您在不发送数据的情况下与文档聊天。免费且注重隐私。

本地AI聊天
离线AI
AI Runner
暂无图片
106 0

AI Runner是一个离线AI推理引擎,用于艺术创作、实时语音对话、LLM驱动的聊天机器人和自动化工作流程。在本地运行图像生成、语音聊天等!

离线AI
图像生成
语音聊天
Enclave AI
暂无图片
108 0

Enclave AI 是一款注重隐私的 AI 聊天机器人,适用于 iOS 和 macOS,可完全离线运行。享受由本地 LLM 处理驱动的安全对话和语音聊天。

离线聊天机器人
私有AI
本地LLM
Text Generation Web UI
暂无图片
92 0

Text Generation Web UI是一个功能强大且用户友好的Gradio Web界面,适用于本地AI大型语言模型。支持多个后端、扩展,并提供离线隐私。

本地AI
文本生成
Web UI
On-Device AI: Offline & Secure
暂无图片
119 0

On-Device AI:在iPhone、iPad和Mac上离线且安全地转换语音为文本、自然文本转语音,并与LLM聊天。私有且强大!

离线AI聊天
语音转文本
文档分析
ProxyAI
暂无图片
115 0

ProxyAI 是一款适用于 JetBrains IDE 的 AI 代码助手,提供代码补全、自然语言编辑和本地 LLM 的离线支持。使用 AI 增强您的编码体验。

代码补全
AI助手
Pal Chat
暂无图片
180 0

发现Pal Chat,这是iOS的轻量级却强大的AI聊天客户端。访问GPT-4o、Claude 3.5等模型,完全隐私保护——不收集任何数据。在iPhone或iPad上生成图像、编辑提示,并享受无缝AI交互。

多模型AI聊天
图像生成
OpenUI
暂无图片
118 0

OpenUI 是一个开源工具,让您用自然语言描述 UI 组件,并使用大语言模型实时渲染。将描述转换为 HTML、React 或 Svelte,实现快速原型设计。

UI生成
生成式AI
大语言模型集成
Roo Code
暂无图片
169 0

Roo Code 是 VS Code 的开源 AI 驱动编码助手,具备用于多文件编辑、调试和架构的 AI 代理。它支持各种模型,确保隐私,并自定义适应您的工作流程以实现高效开发。

AI代理
多文件编辑
代码重构
Auto Localize
暂无图片
357 0

Auto Localize:一款由 AI 驱动的本地化工具,支持 Xcode、Android Studio、Java、Unity 和 Flutter 项目。无缝集成 App Store Connect,支持 OpenAI 和 Google Gemini。

Xcode 本地化
应用翻译
GrammarBot
暂无图片
202 0

GrammarBot是一款AI驱动的语法和拼写检查器,适用于MacOS,可离线工作。只需下载应用程序和AI模型一次,即可永久提高您的英语水平。个人许可证12美元。

语法检查
拼写更正
离线AI
Alice
暂无图片
391 0

Alice 是一款原生 AI 助手应用,适用于 Mac、Windows 和 Linux,可以连接到多个 AI 模型,允许安装助手,并与您的软件集成。 使用 AI 提高您的生产力!

AI 助手
自动化
生产力
Sanctum
暂无图片
339 0

使用Sanctum体验安全的AI对话,它由在本地设备上加密的开源模型提供支持。在几秒钟内运行功能齐全的LLM,并拥有完全的隐私。

本地AI
隐私
离线LLM