GitHub Copilot 正式支持桌面端自动化:实现跨应用 GUI 交互与无 API 工作流编排

ADK ChatLaw官方 / ADK编译 2026-10-01 4 分钟 90 次浏览
速览导读 / Summary

GitHub Copilot 推出重大更新,正式支持桌面端‘计算机使用’(Computer Use)功能。该功能允许 Copilot 直接操作 macOS 和 Windows 上的桌面应用程序,执行点击、文本编辑、滚动及跨应用导航等任务。这一突破填补了无 API、无命令行界面的遗留软件自动化空白,支持用户通过自然语言描述目标结果来驱动自动化流程,同时提供严格的权限审批机制以确保安全可控。

支持平台 macOS, Windows Copilot CLI 及桌面应用
功能状态 Public Preview 公开预览阶段
交互能力 Full GUI Control 点击、编辑、拖拽、跨应用导航

Key Insights / 核心看点

  • 1 Copilot 正式支持桌面端‘计算机使用’功能,可直接操作 macOS 和 Windows 上的 GUI 应用程序。
  • 2 填补了无 API、无命令行界面的遗留软件和纯图形界面应用的自动化空白。
  • 3 支持跨应用导航、文本编辑、拖拽等复杂交互,通过自然语言驱动自动化工作流。
  • 4 内置严格的安全机制,包括事前审批、白名单管理及组织级禁用选项。

GitHub Copilot 正式支持桌面端自动化:实现跨应用 GUI 交互与无 API 工作流编排

GitHub 在 2026 年 10 月 1 日发布了重磅更新,标志着 AI 编程助手 GitHub Copilot 的能力边界从代码生成正式延伸至桌面环境的全方位自动化。此次更新在 GitHub Copilot CLI 以及 macOS 和 Windows 版的 GitHub Copilot 应用中引入了“计算机使用”(Computer Use)功能,并进入公开预览阶段。

核心突破:打破 GUI 自动化壁垒

长期以来,企业级遗留软件和纯图形界面(GUI)应用由于缺乏 API 接口或命令行工具,难以被自动化脚本接管。此次更新彻底改变了这一现状。

Copilot 现在能够直接操作桌面应用程序,执行包括读取可访问内容、查看视觉上下文、点击控件、输入和编辑文本、按键操作、滚动、拖拽以及跨应用导航等一系列复杂任务。这意味着开发者可以利用 Copilot 自动化那些曾经需要编写繁琐脚本才能完成的工作流,特别是针对那些没有提供 API、命令行界面(CLI)或模型上下文协议(MCP)集成的老旧软件。

实际应用场景

官方演示中展示了 Copilot 利用计算机使用工具在 Safari 浏览器中导航报销工作流的场景。用户只需描述期望的结果、涉及的应用程序以及任何重要约束条件,Copilot 即可自主执行任务。

典型的应用案例包括:

  • 浏览器通知汇总:自动读取并总结浏览器中的各类通知。
  • 演示文稿内容更新:直接修改 PPT 中的特定文本或图表。
  • 跨应用数据流转:在多个桌面应用之间移动信息,完成复杂的业务逻辑。

安全机制与权限控制

尽管功能强大,但 GitHub 强调用户始终掌握控制权。

  • 事前审批:Copilot 在控制应用程序前会请求用户批准。
  • 白名单管理:用户可以审查或重置已选择始终允许的应用程序。
  • 系统级引导:在 macOS 上,Copilot 会引导用户完成必要的无障碍(Accessibility)和屏幕录制权限设置。
  • 组织管控:支持组织管理员通过设置禁用该功能,以满足企业合规要求。

快速上手指南

开发者可以通过以下方式启用该功能:

在 Copilot CLI 中:

  • 运行 /computer 命令启动。
  • 使用 /computer show 检查状态。
  • 使用 /computer off 关闭功能。

在 GitHub Copilot 应用中:

  • 打开 Settings(设置),选择 Computer Use。
  • 开启 Enable Computer Use 选项。

这一更新不仅扩展了 AI 的自动化能力,更显著降低了企业部署遗留系统自动化的技术门槛,是 AI Agent 从“代码生成”向“任务执行”跨越的关键一步。

“This expands the tasks Copilot can help automate, including workflows in legacy and GUI-only software that do not provide an API, command-line interface, or MCP integration.”

— GitHub Blog Announcement

同主题深度资讯

查看更多 →
AI 工具 2026-10-31

中信建投国际 2027 秋招深度解读:港股中资券商本科可投,投行与量化门槛差异显著

中信建投国际 2027 届秋招面向本科及以上应届生开放,作为香港中资券商平台,其核心亮点在于提供跨境金融业务入口。然而,该招聘存在明显的岗位分化:投行分析师与量化研究助理对财务建模、编程及英文能力要求极高,而财富管理类岗位更侧重沟通与执行。文章强调,受限于“最多投递 2 个岗位”的规则,求职者需精准匹配自身背景(如金融、量化、计算机背景),避免盲目海投。同时,详细拆解了从网申到录用的七轮流程及准备策略,为 2027 届求职者提供决策依据。

超级简历官方 / ADK编译 5 分钟
AI 工具 2026-10-16

WonderCV 发布“超级职场攻略”:AI 驱动简历优化与全周期求职赋能

WonderCV(超级简历)于 2026 年 10 月 16 日重磅推出“超级职场攻略”系列,整合 AI 生成、专家点评与行业案例,构建从简历撰写到面试实战的全周期求职体系。通过 AI 简历生成、HR 视角的分数评估及大牛案例库,帮助求职者提升通过率,实现从“白开水”简历到“心动 Offer”的蜕变。

超级简历官方 / ADK编译 4 分钟
AI 工具 2026-10-15

Atoms 发布 Claude Motion:基于代码的动画生成与 MP4 导出功能详解

Atoms 平台正式推出 Claude Motion 的 Beta 版本,支持团队与企业用户创建基于代码的动画。该工具利用文本、图表和图像生成可编辑的 MP4 视频,强调内容准确性而非生成式视频。文章详细阐述了从组织权限配置、提示词编写到最终视频导出的完整工作流,并提供了针对内部演示文稿和定价说明的实战案例。

Atoms官方 / ADK编译 4 分钟
AI 工具 2026-10-15

Atoms 发布 CSV 文件智能比对工具:基于唯一键的增量变更报告

Atoms 工具团队发布新功能,旨在解决数据快照比对中的核心痛点。该工具通过基于唯一标识符(Key)的匹配机制,生成可复现的变更报告,精准识别新增、删除、修改及未变数据。它强调本地化运行、架构解耦以及严格的输入验证,确保在列顺序重组或 Schema 微调场景下,开发者仍能获得准确的数据差异分析,避免误判数据丢失或变更。

Atoms官方 / ADK编译 4 分钟
productivity · 免费+付费
★ 5.0 · 120评测
C

ChatLaw

北大开源的法律大模型和助手

ChatLaw是由北京大学团队开源的AI法律大语言模型(LLM),它通过结合法律领域特定的数据集和外部知识库,旨在提高法律问题处理的准确性和效率。该模型利用先进的自然语言处理技术,能够理解和生成法律相关的咨询和解答,同时减少法律数据筛选中的模型幻觉问题。ChatLaw的设计考虑了法律语言的复杂性和法律知识更新的快速性,力图为法律专业人士和普通用户提供高质量的法律信息服务。

查看 ChatLaw 使用教程与功能