AI Agent 论文播报|0428:运行时、安全、评测三线齐下沉

AI Agent 论文播报|0428:运行时、安全、评测三线齐下沉

10分钟 ·
播放数0
·
评论数0

当 Agent 从一次性工具变成要跑好几天的「同事」,运行时怎么设计、安全怎么治理、评测怎么打分——全得重做一遍。今天三篇重点论文分别从这三个方向给出答案,共同指向一个判断:Agent 的下一阶段竞争不在模型,在基础设施。


📌 本期重点论文

  • 流式执行的可修订理论(Revisable by Design: A Theory of Streaming LLM Agent Execution)——把 Agent 执行从"下单等外卖"变成"直播加弹幕":用户中途改需求,不用推倒重来。论文将每个动作按副作用分成四类,证明了最优回滚策略只需一遍扫描,浪费步数比暴力重启少一个数量级。对做 Agent runtime 和工具设计的团队启发极大。
  • 多 Agent 跨域合规违规防护(Beyond Single-Agent Alignment: Preventing Context-Fragmented Violations in Multi-Agent Systems)——开头那个数字:前沿模型在企业多 Agent 协作中的合规违规率高达 97.5%。不是模型不聪明,是结构上拦不住。论文提出"上下文碎片化违规"这一新威胁类别,用语义污点令牌和跨域布尔查询实现零信任治理,违规率压到个位数,延迟只多约 100 毫秒。
  • ClawMark:多天多模态同事型 Agent 基准(ClawMark: A Living-World Benchmark for Multi-Turn, Multi-Day, Multimodal Coworker Agents)——首个跨工作日、带环境漂移和真实多模态证据的 Agent 评测。1537 个确定性 Python checker,不用 LLM 判分。最强模型严格全通过率仅 20%,最大短板是检测不到环境偷偷变了、以及"嘴上说做了但其实没写回"。

📈 今日趋势

  • Agent 评测正从单轮分数转向跨多日、步骤级的轨迹评测,长程运行和错误传播诊断成为新焦点。
  • 多 Agent 安全被重新表述为分布式系统的状态一致性与攻击面问题——提示词工程救不了,需要架构级治理。

🧠 今日知识点:Trajectory Evaluation(轨迹评测)

不看最终答案对不对,而是审视 Agent 每一步的动作、工具调用和状态变化是否合理。能把失败拆成感知错、规划错、执行错等环节,直接指向系统该修哪一层。今天三篇论文都在把评测从结果级下沉到轨迹级,这是理解它们的共同底座。


💡 一句话收尾

对做 Agent 平台的团队来说,现在值得投入的不是又一个 demo,而是执行框架(harness)、轨迹评测体系和跨 Agent 治理层这三块基础设施。


本期内容由 AI 自动生成,如有疏漏欢迎留言指正与交流。