配置示例(doubao-seed-2-1-turbo-260628):
如果你的火山引擎账号已开通低延迟模式(Fast Tier),可以追加以下请求体参数来使用该能力。通常可将模型响应速度提升约 30% 至 50%。
本文介绍如何使用模型服务商提供的 API Key 接入 Midscene,包括完成配置和验证连接。如果你已有 ChatGPT 订阅,也可以参考使用 ChatGPT 订阅文档中的描述操作。
本页列出的模型配置,本质上都是环境变量。你可以根据使用方式提供这些配置:
如需查询高级配置参数,请阅读模型高级配置与调试。
模型选型建议和接入方式见模型选择指南。下面提供各模型的配置示例。
每份配置都需要 Base URL、API Key、模型名称和 MIDSCENE_MODEL_FAMILY。MIDSCENE_MODEL_FAMILY 选择模型适配器,决定坐标处理方式、支持的 API 协议,以及思考和输出参数的发送方式。请使用下方对应模型列出的 family 值。
配置示例(doubao-seed-2-1-turbo-260628):
如果你的火山引擎账号已开通低延迟模式(Fast Tier),可以追加以下请求体参数来使用该能力。通常可将模型响应速度提升约 30% 至 50%。
配置示例(qwen3.7-plus):
以上阿里云示例使用北京地域;英文版示例使用 Alibaba Cloud 新加坡地域。API Key、Base URL 和模型必须属于同一地域。其他地域的配置见地域与接入地址。
Midscene 从 v1.12.0 开始支持 DeepSeek。
配置示例(deepseek-flash):
配置示例(gemini-3.5-flash):
如果想使用 ChatGPT 订阅接入,请参考使用 ChatGPT 订阅。
使用 API Key
配置示例(gpt-6-sol):
开启 Fast mode(service_tier="fast")
GPT-6 Astra 支持 Fast mode,可以追加 service_tier 请求体参数启用:
按照 OpenAI 官方说明,Fast mode 可获得最高 2~2.5 倍的速度,费率为 Standard 费率的两倍。具体速度、价格和使用限制以官方说明为准。
如需复用 Codex CLI 登录,请参考使用 Codex App Server。
使用 GPT 时,请注意以下事项:
1440x900 和 1600x900 这两种截图尺寸上通常能获得比较好的效果,详见 Computer use guide。因此,建议按照 OpenAI 的推荐对截图尺寸进行调整。在 Midscene 中,你可以通过 Agent 参数里的 screenshotShrinkFactor 控制截图压缩倍率。如果是浏览器自动化,还可以通过浏览器 viewport 指定页面的尺寸和比例。"detail": "original" 可能未被正确处理,从而造成点击坐标偏移。遇到此问题时,可以切换到 Responses API。详见 使用 Azure OpenAI 时点击坐标偏移。配置示例(kimi-k3):
配置示例(mimo-v2.6-pro):
配置示例(glm-5v-turbo):
了解更多关于 GLM-4.6V 开源模型
我们观察到,图片最长边超过 2000 像素时,定位精度可能下降。建议通过 Agent 的 screenshotShrinkFactor 参数缩放图片。
Jev 是一个做选择的模型,可以用它选择下一步动作、定位界面元素,以及判断条件是否成立。它的优势是速度快、成本低,但不适用于需要复杂推理的任务。
Midscene 对 Jev 的支持是实验性的。
复制以下配置,将 Planning、Locate 和 Insight 配置为 Jev:
将相应模型职责配置为 Jev 后,各类任务的处理方式如下:
aiBoolean、aiAssert 和 aiWaitFor 由 Jev 执行判断;aiQuery、aiString、aiNumber 和 aiAsk 由通用默认模型处理。aiAct 中,单击、双击、返回等简单动作由 Jev 规划;输入、滚动等复杂动作由默认模型规划。上述模型选择依据任务所需的能力。Jev 请求失败时,不会自动切换至默认模型。
Jev 使用 TypeSafe 的 System One 协议,不使用 OpenAI 协议。OpenAI 的部分模型配置不适用于 Jev,包括温度、原生思考、响应格式和流式输出等。
/v1,例如 https://api.typesafe.ai/v1,Midscene 会自动追加 /systemone。如果你的接入点未使用 /systemone 路径,可以通过对应模型的 Endpoint 配置完整请求地址,例如 MIDSCENE_LOCATE_MODEL_ENDPOINT="https://example.com/custom/decision"。Endpoint 优先于 Base URL,Midscene 不会再追加路径。screenshotShrinkFactor 参数控制截图尺寸。为避免多次缩放影响图片质量,并兼容 Jev 未来版本的图片尺寸要求,Midscene 不会按照 Jev 某个版本的尺寸要求自动缩放图片。Midscene 从环境变量读取模型配置。请选择与你的使用方式对应的方法,也可以沿用项目已有的环境变量管理方式。
以下示例适用于 Bash 和 Zsh。变量只在当前 Shell 会话及其启动的子进程中有 效。
.env 文件配置Midscene Test 的脚手架配置会加载配置文件旁的 .env,默认保留已有环境变量。手写配置需要显式加载文件或由 Shell / CI 提供环境变量,详见加载环境变量。旧版 YAML 脚本运行器(@midscene/cli)会自动读取工作目录中的 .env。
使用 Midscene Test 时,在生成的测试项目目录中将 .env.example 复制为 .env,填入模型配置后运行 pnpm test