产品概览

LM Studio 是什么？

LM Studio 是一款跨平台桌面应用程序，专为在 macOS、Windows 和 Linux 系统上本地运行和测试大语言模型而设计，无需互联网连接。它集成了 llama.cpp、Apple MLX 等高效开源运行时，确保模型执行的卓越性能。用户可便捷浏览并下载 Hugging Face 上的丰富开源 LLM，通过直观的类 ChatGPT 界面与模型交互，并支持基于 RAG 的离线文档智能查询等高级功能。此外，LM Studio 内置 OpenAI 兼容的本地 API 服务，方便开发者将模型能力无缝集成到自定义应用或脚本中，全面保障数据隐私与 AI 任务的自主可控性。

主要功能

OpenAI兼容API服务器

通过本地 REST API 服务模型，支持标准 OpenAI 接口，便于与外部应用和脚本快速集成，实现高效开发。

模型发现与管理

在应用内直接浏览、下载并加载来自 Hugging Face 的多样化开源大语言模型，简化模型探索流程。

聊天界面与文档交互

提供直观聊天界面与模型互动，并利用 RAG 技术实现本地文档的智能查询与上下文增强，提升交互效率。

本地LLM运行

在本地硬件上运行大语言模型，无需联网，确保数据隐私并支持完全离线操作，增强安全性。

多平台支持

兼容 macOS（包括 Apple Silicon）、Windows（x64/ARM64）及 Linux，支持多种运行环境如 llama.cpp 和 MLX，确保广泛适用性。

高级自定义与开发者工具

提供命令行工具、Python SDK 和开发者模式，支持灵活调整模型参数与工作流配置，满足专业需求。

使用场景

AI应用开发

开发者可借助本地模型和兼容 API 进行 AI 应用开发与测试，确保数据不出本地，提升开发效率。

模型实验与评估

在同一平台轻松测试和比较不同开源 LLM，快速识别适合特定任务的模型，优化实验流程。

离线文档分析

上传本地文档，在离线环境下通过 AI 进行智能问答与分析，适用于涉密或敏感数据场景，保障信息安全。

定制化AI聊天机器人

基于内部资料构建无需外部依赖的聊天机器人，增强安全性与控制力，实现个性化交互。

注重隐私的AI研究

研究人员可在本地运行和实验大语言模型，避免敏感数据上传云端，确保隐私安全与合规性。