SGLang 通过 OpenAI 兼容 HTTP API 提供开源模型服务,OpenClaw 使用 openai-completions 接入并支持自动模型发现。
| 属性 | 值 |
|---|---|
| Provider ID | sglang |
| 认证 | SGLANG_API_KEY(无认证服务器填任意非空值) |
| API | OpenAI 兼容(openai-completions) |
| 默认 Base URL | http://127.0.0.1:30000/v1 |
| 默认模型占位符 | sglang/Qwen/Qwen3-8B |
| 流式用量统计 | 支持 |
快速开始
# 1. 启动 SGLang 服务器
# 2. 设置 API key(任意值即可)
export SGLANG_API_KEY="sglang-local"
# 3. 运行 onboarding 或直接配置模型
openclaw onboard模型自动发现
设置 SGLANG_API_KEY 后,若未显式配置 models.providers.sglang,OpenClaw 会自动查询:
GET http://127.0.0.1:30000/v1/models
若已显式配置 provider,可在 agents.defaults.models 中添加 "sglang/*": {} 保持动态发现。
显式配置
{
models: {
providers: {
sglang: {
baseUrl: "http://127.0.0.1:30000/v1",
apiKey: "${SGLANG_API_KEY}",
api: "openai-completions",
models: [
{
id: "your-model-id",
name: "Local SGLang Model",
reasoning: false,
input: ["text"],
cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
contextWindow: 128000,
maxTokens: 8192,
},
],
},
},
},
}代理行为说明
SGLang 作为代理式 OpenAI 兼容后端,不应用 OpenAI 专有请求格式(service_tier、store、prompt-cache hints、reasoning-compat payload 等),也不注入 OpenClaw 归因头。
相关链接
- provider-vllm — 另一个本地 OpenAI 兼容服务器
- provider-inferrs — inferrs 本地服务器
- providers — 所有 provider 总览