更新日志
v1.6 - CDP 连接、双指缩放与多模型增强
v1.6 版本新增了 CDP 浏览器连接模式、跨平台双指缩放手势、GPT-5/GPT-5.4 模型支持,同时对元素定位、报告系统、Chrome 扩展等进行了多项改进。
新增 CDP 浏览器连接模式
支持通过 CDP (Chrome DevTools Protocol) 直接连接已有的浏览器实例进行自动化,无需由 Midscene 启动浏览器,适用于需要复用已有浏览器会话的场景。详见:Skills - Browser Automation、YAML 脚本运行器 - CDP 连接模式
新增跨平台双指缩放手势
在 Android、iOS、鸿蒙等移动端平台支持 pinch/zoom 双指缩放操作,可用于地图缩放、图片预览等场景。详见:API 文档 - aiPinch
新增 GPT-5 / GPT-5.4 与 Codex app-server provider 支持
适配了 GPT-5 和 GPT-5.4 模型,同时新增 Codex app-server provider,开发者可以使用最新的 OpenAI 模型进行视觉理解与自动化操作。详见 :模型配置、模型策略
新增模型请求 extraBody 参数
新增 extraBody 配置,开发者可以在模型 API 请求中传递额外的自定义参数,满足特定模型或部署环境的需求。详见高阶配置中的 MIDSCENE_MODEL_EXTRA_BODY_JSON 环境变量
deepThink 更名为 deepLocate
元素定位相关 API 中的 deepThink 参数正式更名为 deepLocate,更准确地表达其"深度定位"的含义。原有 deepThink 参数仍可使用,但建议逐步迁移。详见:API 文档
Skill CLI 与平台工具增强
- Skill CLI 自定义接口:Skill CLI 支持自定义接口,开发者可以更灵活地扩展 Skill 能力。详见:Skills 文档
- 统一 MCP 工具导出:所有平台包(Web、Android、iOS 等)统一导出 MidsceneTools,在 MCP 场景下集成更简单。详见:MCP 服务
- iOS 终止指定应用:iOS 端支持通过 bundleId 终止指定应用,方便测试流程中重置应用状态。详见:iOS API
- CLI 版本查看:CLI 新增版本查看功能,健康检查中显示各包版本信息,便于排查环境问题
任务取消支持
aiAct 新增 AbortSignal 支持,开发者可以在任务执行过程中随时取消操作,避免长时间等待。详见:API 文档 - aiAct
元素定位优化
优化了 deepLocate 的定位流程,在复杂界面下的定位效率和准确率均有提升。
报告与回放改进
- 大型报告加载更快:报告中的截图支持懒加载,包含大量步骤的报告打开速度显著提升
- 移动端报告更直观:报告回放时展示设备外壳,更直观地还原移动端操作场景
- 时序信息更精确:报告中 AI 调用和操作执行的时序信息精度更高,便于定位性能瓶颈
稳定性改进
- AI 规划偶发解析失败时自动重试一次,减少因网络抖动导致的测试中断
- 设备健康检查新增监控器检测,帮助排查无头环境下的显示问题
Chrome 扩展改进
- 修复录制停止后生成脚本时的崩溃问题
- 修复长时间录制时因消息序列化性能问题导致的卡顿
- Bridge 模式新增启停控制按钮,修复确认操作时连接断开的问题
问题修复
- 修复 MCP 服务在某些情况下变成僵尸进程占用 100% CPU 的问题
- 修复页面跳转过程中截图失败未重试的问题
- 修复 Android 端部分场景下文字输入丢失的问题
- 修复
aiNumber在某些格式下提取结果不正确的问题 - 修复
aiScroll不传参数时的调用异常 - 修复使用 AutoGLM 模型时返回/主页操作在不同平台上的兼容问题
- 修复报告中模型名称包含
/时显示异常的问题 - 修复报告回放结束后播放器未正确重置的问题
- 修复 Playground 中 Deep Think 开关未正确读取环境变量配置的问题
- 修复高分辨率设备截图中光标大小显示不正确的问题
- 修复 Linux 环境下 Chrome 启动路径解析失败的问题
- 修复页面包含 iframe 时元素定位不准确的问题
- 修复鸿蒙端在特定渲染分辨率下屏幕信息解析错误的问题
- 修复 Playground 中取消任务后设备方向显示不正确的问题
v1.5 - HarmonyOS(鸿蒙)自动化支持
v1.5 版本新增了 HarmonyOS 自动化支持,新增 Qwen3.5 和 doubao-seed 2.0 模型支持,同时对桌面自动化、报告系统、Chrome 扩展等进行了多项改进。
新增 HarmonyOS(鸿蒙 )自动化支持
新增 @midscene/harmony 包,正式支持 HarmonyOS 平台自动化。Midscene 的自动化能力从 Web、Android、iOS、桌面进一步扩展到鸿蒙生态。
新增 Qwen3.5 与 doubao-seed 2.0 模型支持
适配了通义千问 Qwen3.5 和豆包 doubao-seed 2.0 模型,开发者可以使用更新的模型获得更好的视觉理解效果。
新增通用模型推理配置
新增 MIDSCENE_MODEL_REASONING_EFFORT 环境变量,作为通用的模型推理强度配置参数,方便开发者在不同模型间统一控制推理行为。
桌面自动化改进
- Xvfb 虚拟显示器支持:在无头 Linux 环境下支持 Xvfb 虚拟显示器,适用于 CI/CD 服务器等无 GUI 环境的桌面自动化
- 连接健康检查:桌面自动化连接时新增健康检查,提升连接可靠性
- macOS 输入优化:macOS 上所有文本输入改用剪贴板方式,避免输入法(IME)导致的输入异常
- 鼠标控制失败检测:自动检测鼠标控制失败并提示管理员权限需求
- 停止执行优化:在停止执行时通过检查 destroyed 状态及时中断截图操作,避免无效等待
截图与显示优化
- 自定义截图缩放:支持自定义截图缩放比例(screenshot shrink),在保证识别准确性的前提下优化性能
- Android 缩放比解耦:将 scalingRatio 从 size() 方法中解耦,提升灵活性
报告系统改进
- 时序信息更详细:报告中的时序信息粒度更细,帮助开发者更精确地分析性能瓶颈
- 合并报告支持目录模式:
mergeReports支持目录模式的报告文件
Chrome 扩展改进
- 新增始终拒绝选项:Chrome 扩展新增"始终拒绝"选项,并修复确认弹窗的竞态条件
- CLI 结束后关闭 Bridge 服务:CLI 命令完成后自动关闭 Bridge 服务器,避免残留进程
问题修复
- 修复表单渲染中 input mode schema 的
z.preprocess处理问题 - 修复 Android 滑动参数传递问题
- 修复 Web 端尺寸计算问题
- 修复
BASE_URL_FIX_SCRIPT闭合标签未被 HTML 解析器识别的问题 - 修复 PlaywrightAgent/PuppeteerAgent 构造函数中 page 为 undefined 的保护处理
v1.4 - Skills:让 AI 助手直接操控你的设备
v1.4 版本推出了 Midscene Skills —— 一套可安装到 Claude Code、OpenClaw 等 AI 助手中的技能包 ,让 AI 助手直接操控浏览器、桌面、Android 和 iOS 设备。同时本版本还包含独立桌面 MCP 服务、各平台 CLI 独立入口、AI 规划增强等多项改进。
Midscene Skills —— AI 助手的设备操控技能包
Midscene Skills 是一套可安装到 Claude Code、OpenClaw 等 AI 助手中的技能包。安装后,AI 助手可以通过自然语言直接操控浏览器、桌面、Android 和 iOS 设备。
各平台包(@midscene/android、@midscene/ios、@midscene/web 等)现在各自暴露了独立的 CLI 入口,Skills 正是基于此能力构建。
覆盖平台:
- 浏览器(Puppeteer 无头模式)
- Chrome Bridge(用户自己的桌面 Chrome)
- 桌面(macOS、Windows、Linux)
- Android(通过 ADB)
- iOS(通过 WebDriverAgent)
独立桌面自动化 MCP 包
新增 @midscene/computer-mcp 包,将 PC 桌面自动化能力以独立 MCP 服务的形式提供。开发者可以直接在 Cursor、Trae 等支持 MCP 的工具中使用桌面自动化能力,无需额外集成。
详见文档:PC 桌面自动化
Chrome 扩展支持 MCP 后台连接
Chrome 扩展新增后台 Bridge 模式的 MCP 连接支持,可以将桌面浏览器作为 MCP 工具暴露给 AI 助手,进一步打通 MCP 生态。
AI 规划能力增强
aiAct新增deepLocate选项:在执行操作时启用深度定位,提升复杂界面下的元素定位准确率- Swipe 与 DragAndDrop 语义区分:模型现在能更精确地区分滑动和拖放操作,减少手势规划错误
- LLM 规划增加页面导航限制:防止模型在规划时生成不合理的页面跳转操作,提升任务执行稳定性
- macOS 键盘输入改用 AppleScript:提升桌面自动化中键盘输入的稳定性和兼容性
- 鼠标移动操作:新增 cursor move 动作支持
YAML 脚本与文件上传增强
- YAML
aiTap支持fileChooserAccept:在 YAML 脚本中可直接处理文件上传对话框 - 支持目录上传:Web 端支持
webkitdirectory类型的文件夹选择上传
Chrome 扩展 Bridge 模式缓存
Bridge 模式下新增缓存支持,复用已有的 AI 规划结果,减少重复调用,提升调试效率。
Android 改进
- 优化文字输入逻辑,提升输入稳定性
iOS 改进
- Playground 实时画面流:iOS Playground 新增实时画面展示,调试时可实时预览设备屏幕。
v1.3 - PC 桌面自动化支持
v1.3 版本带来了全新的 PC 桌面自动化能力,大幅优化了 Android 截图性能,并对报告系统和稳定性进行了多项改进。
全新 PC 桌面自动化支持
Midscene 现在支持 PC 桌面自动化,在 Windows、macOS 和 Linux 上驱动原生键盘和鼠标。无论是 Electron、Qt、WPF 还是原生桌面应用,都可以通过视觉模型方案进行自动化。
核心能力:
- 鼠标操作:单击、双击、右键、移动鼠标、拖放
- 键盘输入:文本输入、组合键(Cmd/Ctrl/Alt/Shift)
- 屏幕截图:捕获任意显示器的截图
- 多显示器支持:同时操作多个显示器
使用方式:
- 支持使用 Computer Playground 零代码试用
- 支持 JavaScript SDK 脚本编写
- 支持 YAML 格式的自动化脚本和命令行工具
- 支持 HTML 报告回放所有操作路径
详见文档:PC 桌面自动化
Android 截图性能大幅提升
开启 Scrcpy 截图模式后,截图耗时从原来的 500–2000ms 降低到 100–200ms,显著提升 Android 自动化的响应速度,特别适用于远程设备调试和高帧率场景。
详见文档:Scrcpy 截图模式
深度思考模式增强
aiAct 的深度思考(deepThink)模式现在不仅用于元素定位,还能优化整体任务规划,在复杂表单、多步骤流程等场景下获得更好的执行效果。
报告体验优化
- 时间线折叠:新增折叠切换按钮,方便查看长任务流程
- 时间单位改为秒:更易读
- 步骤同步高亮:侧边栏步骤高亮与播放器回放实时同步
- 内存占用降低:优化报告生成机制,有效降低运行时内存占用
移动端改进
Android
- 特殊字符和 Unicode 输入更稳定
- Launch 操作时应用包名匹配更宽松(忽略大小写和空格)
- 部分设备截图异常时自动重试
iOS
- Bundle ID 匹配更宽松(忽略大小写和空格)
Web 自动化改进
- 修复 Puppeteer 在非活动标签页截图时可能挂起的问题
- 修复 headed 模式下窗口尺寸不准确的问题
shareBrowserContext模式下支持保留 localStorage 和 sessionStorage- Playwright 多项目配置下,报告中自动区分不同浏览器的测试用例
- 修复 YAML 脚本中 input 操作的
typeOnly模式不生效的问题
其他改进
- 图片处理性能提升
- SVG 图标缓存问题修复
- Playground 模型配置错误现在会显示具体原因
v1.2 - 智谱 AI 开源模型支持与文件上传支持
v1.2 版本中我们加入了对智谱 AI 开源模型的支持,新增了文件上传功能,修复了多个影响使用体验的问题,让自动化测试更加可靠。
新增智谱 AI 开源模型支持
智谱 GLM-V 视觉模型
- 智谱 GLM-V 系列模型是智谱 AI 推出的开源视觉模型,有多种参数的版本,支持云端部署和本地部署。
- 详见:GLM-V 模型配置

