LM Studio本地LLM完整指南

一、LM Studio简介

LM Studio是一款本地LLM运行平台，提供类ChatGPT的图形界面，支持GGUF格式模型，GPU加速开箱即用，完全免费。

核心特点

二、安装部署

下载安装

系统要求

GPU驱动

NVIDIA：安装CUDA驱动
AMD：安装ROCm（Linux/macOS）
Apple Silicon：原生支持

三、使用教程

下载模型

对话界面

参数调整

四、本地API

启动API服务器

API调用示例

from openai import OpenAI
client = OpenAI(
    base_url="http://localhost:1234/v1",
    api_key="lm-studio"
)
response = client.chat.completions.create(
    model="llama2",
    messages=[{"role": "user", "content": "Hello!"}]
)
print(response.choices[0].message.content)

curl调用

curl http://localhost:1234/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama2",
    "messages": [{"role": "user", "content": "Hello"}]
  }'

五、模型获取

支持的模型格式

推荐模型

模型下载来源

六、与Ollama对比