AI Agent 论文播报|0623:上下文压缩正在悄悄删掉你的安全规则

AI Agent 论文播报|0623:上下文压缩正在悄悄删掉你的安全规则

12分钟 ·
播放数0
·
评论数0

这期聚焦一个反常识的发现:让 Agent「忘掉规矩」的不是攻击者,而是你自己 harness 里那个省 token 的摘要器。三篇重点论文从安全、数据、编排三个方向共同指向同一个判断——Agent 的核心竞争力已从模型层下沉到 runtime 工程层。

本期重点

  • 治理衰减(Governance Decay: How Context Compaction Silently Erases Safety Constraints in Long-Horizon LLM Agents)——揭示上下文压缩会把 in-context 合规规则当「过时开场白」丢掉,压缩后违规率从 0% 涨到 30%;同时构造了针对摘要器的 Compaction-Eviction 攻击,并给出近乎零成本的 Constraint Pinning 防御。对所有做长程 Agent 的团队都是必读警示。
  • Fara-1.5:可扩展的计算机使用智能体训练环境(Fara-1.5: Scalable Learning Environments for Computer Use Agents)——微软开源完整 CUA 数据管线(合成沙盒+单教师求解器+三重验证器),27B 模型在 Online-Mind2Web 打到 72.3%,正面超越 Gemini 2.5 Computer Use 和 OpenAI Operator。证明 CUA 下一步拼的是数据流水线和 UX 闭环,而非堆参数。
  • 基于角色的意图驱动网络编排(Role-Based Agentic AI for Intent-Driven Network and Service Orchestration)——英国电信 BT 把多 Agent 系统按公司真实岗位(产品经理→架构师→服务→资源)四层拆分,给出 ReAct+MCP+A2A 的可运行 PoC,并得出实用结论:入口 Agent 必须用强模型,下游可以省。

今日趋势

  • Agent 安全焦点从「让模型拒答」迁移到「让运行时不要自己抹掉规则」——上下文压缩、工具授权、内存管理成为新的系统性失效面。
  • 小尺寸 CUA 靠合成环境+多重验证器路线正面追平甚至超越专有大模型,数据管线质量成为核心壁垒。

📎 完整日报与论文列表见 GitHub 归档:2026-06-23 daily report

欢迎在评论区留言交流,告诉我们你最关心哪类 Agent 话题。本期内容由 AI 辅助生成并经人工审校,如有疏漏欢迎指正。我们下期见 👋