SGLang 通过 OpenAI 兼容 HTTP API 提供开源模型服务,OpenClaw 使用 openai-completions 接入并支持自动模型发现。

属性值
Provider IDsglang
认证SGLANG_API_KEY(无认证服务器填任意非空值)
APIOpenAI 兼容(openai-completions)
默认 Base URLhttp://127.0.0.1:30000/v1
默认模型占位符sglang/Qwen/Qwen3-8B
流式用量统计支持

快速开始

# 1. 启动 SGLang 服务器
# 2. 设置 API key(任意值即可)
export SGLANG_API_KEY="sglang-local"
# 3. 运行 onboarding 或直接配置模型
openclaw onboard

模型自动发现

设置 SGLANG_API_KEY 后,若未显式配置 models.providers.sglang,OpenClaw 会自动查询:

GET http://127.0.0.1:30000/v1/models

若已显式配置 provider,可在 agents.defaults.models 中添加 "sglang/*": {} 保持动态发现。

显式配置

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

代理行为说明

SGLang 作为代理式 OpenAI 兼容后端,不应用 OpenAI 专有请求格式(service_tier、store、prompt-cache hints、reasoning-compat payload 等),也不注入 OpenClaw 归因头。

相关链接