USENIX Security 2026 前瞻:AI 代理攻击面与物理层隐私新挑战

ADK 玻尔官方 / ADK编译 2026-08-07 5 分钟 64 次浏览
速览导读 / Summary

USENIX Security 2026 将于 2026 年 8 月在巴尔的摩举行,Bohrium 团队梳理了 12 篇核心论文与四大研究趋势。重点聚焦 AI 代理(Agentic AI)的攻击面扩展,包括通过遥测数据投毒(AIOpsDoom)和超声波语音注入(Sirens' Whisper)等新型攻击。文章还分析了 2026 年研究议程向应用密码学和新兴技术倾斜的结构性变化,为开发者提供关键的安全防御指引。

会议时间 2026-08-12 USENIX Security 2026 正式召开
核心攻击成功率 94% Sirens' Whisper 在测试模型上的非拒绝率
议程变化 +6.4% 应用密码学研究份额增长

Key Insights / 核心看点

  • 1 AIOpsDoom 揭示了 LLM 代理通过篡改遥测数据(Telemetry Manipulation)触发有害修复操作的风险,并提出了 AIOpsShield 防御方案。
  • 2 Sirens' Whisper 展示了近超声波音频攻击可绕过人类听觉,以 94% 的成功率劫持语音驱动的 LLM 模型。
  • 3 USENIX Security 2026 议程显示研究重心从单一 AI 模型转向应用密码学、Web/移动技术及硬件安全。
  • 4 本地加密代理仍存在元数据泄露风险,攻击者可通过 IP 地址和时序模式推断系统行为。

USENIX Security 2026 前瞻:AI 代理攻击面与物理层隐私新挑战

2026 年 8 月 12 日至 14 日,第 35 届 USENIX Security Symposium 将在美国马里兰州巴尔的摩 Marriott Waterfront 举行。随着会议临近,Bohrium 团队已提前梳理了当前公开的 12 篇核心论文,并提炼出四大关键研究趋势,旨在帮助开发者与研究人员提前布局安全防御策略。

研究议程结构性转变:从 AI 集中到应用密码学崛起

对比 2025 与 2026 年的技术议程,USENIX Security 2026 显示出明显的研究重心转移。虽然 AI/ML 安全仍占据 18.9% 的份额,但其主导地位有所减弱,取而代之的是更均衡的分布。

  • 应用密码学(Applied Cryptography):份额增长最大,增加 6.4 个百分点,成为新的研究热点。
  • Web、移动及新兴技术:份额超过翻倍,硬件安全也随之增长。
  • AI/ML 安全:虽然仍是核心议题,但研究场景正从单一模型转向更复杂的系统级应用。

这种变化表明,未来的安全挑战不再局限于模型本身的鲁棒性,而是深入到了 AI 与物理世界、传统软件系统的交互边界。

核心突破:AI 代理的攻击面正在物理化

本次发布的论文揭示了 AI 系统(特别是 Agentic AI)面临的全新攻击向量,攻击者正试图绕过传统的数字边界,利用物理信号和系统内部数据。

1. AIOpsDoom:将遥测数据变为攻击跳板

在传统的 AIOps(AI 运维)系统中,日志、指标和追踪数据被视为可信的系统描述。然而,AIOpsDoom 论文挑战了这一假设。

  • 攻击原理:攻击者通过侦察和模糊测试(fuzzing),将对抗性内容注入到遥测数据中。当 LLM 驱动的代理(Agent)处理这些数据时,会将其误判为需要采取有害的修复措施。
  • 防御方案:论文提出了 AIOpsShield,一种在数据到达代理前对结构化遥测数据进行清洗的机制。测试表明,该方案能有效阻断攻击且不影响正常代理性能。
  • 启示:一旦 LLM 能将遥测数据转化为行动,可观测性数据本身就成了攻击面的一部分。

2. Sirens' Whisper:超声波语音注入

这项研究将提示注入(Prompt Injection)从数字域扩展到了物理声学域。

  • 攻击原理:攻击者将目标指令编码在近超声波(near-ultrasonic)音频中,并通过补偿传输和麦克风非线性,使普通设备在录音后能还原出指令。
  • 实验结果:在测试的商业模型上,攻击成功率高达 0.94(非拒绝率)和 0.925(具体说服力)。在受控听音研究中,参与者无法区分注入音频与背景播放。
  • 风险:这意味着即使是语音驱动的 LLM 接口,也可能在人类听觉无法察觉的情况下被劫持。

3. 本地代理的元数据泄露

另一项研究指出,即使本地运行加密的研究代理,被动观察者仍可通过分析 Web 和 Research Agent 产生的目标 IP 地址和时序模式,推断出系统行为。这提醒开发者,在零信任架构下,元数据(Metadata)的防护同样关键。

对开发者的实际价值

USENIX Security 2026 的议程变化为 AI 安全领域指明了方向:

  1. 强化输入验证:对于 AIOps 系统,必须建立严格的遥测数据清洗机制,防止对抗性样本通过日志干扰决策。
  2. 物理层防御:部署语音交互的 AI 应用时,需考虑声学通道的安全性,避免超声波等不可见攻击。
  3. 关注新兴技术:随着 Web 和移动技术的份额翻倍,跨平台的安全协议和硬件安全模块(HSM)将成为刚需。

USENIX Security 2026 不仅是一场学术盛会,更是检验当前 AI 系统安全边界的试金石。建议开发者密切关注 Cycle 2 论文的发布,以应对即将到来的安全挑战。


注:完整论文列表及 Cycle 2 文件将在会议首日(8 月 12 日)发布。

“Once an LLM can turn telemetry into action, observability data becomes part of the attack surface.”

— AIOpsDoom 论文作者

同主题深度资讯

查看更多 →
模型发布 2026-10-15

OpenAI 宣布 GPT-4o 系列 API 停服:迁移至 GPT-6 Luna 与迁移检查指南

OpenAI 正式宣布 GPT-4o 及 GPT-4.1 系列特定快照将于 2027 年 1 月 14 日停止服务,并推荐迁移至 GPT-6 Luna。开发者需立即盘点代码中的模型 ID,区分新旧截止日期,并通过自动化脚本验证替换后的行为兼容性。本文提供详细的迁移清单与代码检查示例,助开发者规避服务中断风险。

Atoms官方 / ADK编译 5 分钟
模型发布 2026-10-15

Gemini 3.7 Flash 正式弃用:迁移至 3.8 Flash 及 Deep Research 代理更新指南

Google 宣布 Gemini 3.7 Flash 模型已正式弃用,所有 API 请求自动重定向至 Gemini 3.8 Flash。开发者需显式更新配置,并同步处理 Deep Research 代理的迁移。本文详解参数变更(如 thinking_budget 替换为 thinking_level)、旧版参数废弃清单及自动化迁移检查脚本,确保应用平滑过渡至新架构。

Atoms官方 / ADK编译 5 分钟
AI 工具 2026-10-15

Atoms 发布 CSV 文件智能比对工具:基于唯一键的增量变更报告

Atoms 工具团队发布新功能,旨在解决数据快照比对中的核心痛点。该工具通过基于唯一标识符(Key)的匹配机制,生成可复现的变更报告,精准识别新增、删除、修改及未变数据。它强调本地化运行、架构解耦以及严格的输入验证,确保在列顺序重组或 Schema 微调场景下,开发者仍能获得准确的数据差异分析,避免误判数据丢失或变更。

Atoms官方 / ADK编译 4 分钟
AI 工具 2026-10-15

Atoms 发布多页扫描 PDF 表格提取新指南:从 OCR 识别到 Power Query 清洗的全流程解析

Atoms 官方发布深度指南,详解如何将多页扫描版 PDF 中的表格精准提取至 Excel。文章涵盖从判断文档类型(文本层 vs 图像层)到选择 OCR 策略、处理跨页表格结构、以及利用 Power Query 进行数据归一化的完整工作流。重点解决了扫描文件识别、跨页列对齐、重复行处理及数据溯源等核心痛点,为处理复杂非结构化文档提供了标准化技术路径。

Atoms官方 / ADK编译 5 分钟
search · 免费+付费
★ 5.0 · 120评测
ç

玻尔

新一代科研知识库与AI学术搜索平台

玻尔(Bohrium)是深势科技联合北京科学智能研究院(AISI)推出的全球首个覆盖“读文献-做计算-做实验-多学科协同”的AI科研平台。平台以“科学导航(Science Navigator)”为核心,提供强大的AI学术搜索、多模态搜索能力、个性化推荐、知识库管理等功能,帮助科研人员高效筛选文献、整理数据、发现关键问题。玻尔能重构科研流程,释放科研创造力,让人工智能成为科学发现的真正参与者。

查看 玻尔 使用教程与功能