【第604期】金融智能体:自主语言模型交易的安全性体系架构Seventy3

【第604期】金融智能体:自主语言模型交易的安全性体系架构

14分钟 ·
播放数0
·
评论数0

Seventy3:借助NotebookLM的能力进行论文解读,专注人工智能、大模型、机器人算法、crypto方向,让大家跟着AI一起进步。

如果你想要解读自己的论文,获得更多曝光度。请联系小助手微信:seventy3_podcast 加群。
合作邮箱:zhiwudazhanjiangshi#gmail.com

今天的主题是:

SoK: Security of Autonomous LLM Agents in Agentic Commerce

Summary

像 OpenClaw 这样的自主大型语言模型(LLM)智能体,正推动智能体商业(agentic commerce)从“由人类监督的辅助系统”演变为能够自主协商、购买服务、管理数字资产,并在链上与链下环境中执行交易的机器行为主体。诸如 Trustless Agents 标准(ERC-8004)、Agent Payments Protocol(AP2)、OKX Agent Payments Protocol(APP)、基于 HTTP 402 的支付协议(x402)、Agent Commerce Protocol(ACP)、Agentic Commerce 标准(ERC-8183)以及 Machine Payments Protocol(MPP)等协议,为这一转变提供了基础设施支持,但同时也引入了现有安全框架难以充分覆盖的攻击面。

本文作为一篇知识体系化研究(Systematization of Knowledge, SoK),为自主 LLM 智能体在商业与金融场景中的安全问题提出了统一的安全框架。我们沿五个维度组织相关威胁:

  1. 智能体完整性(agent integrity)

  2. 交易授权(transaction authorization)

  3. 智能体间信任(inter-agent trust)

  4. 市场操纵(market manipulation)

  5. 监管合规(regulatory compliance)

基于系统化整理的公开语料库——包括学术论文、协议文档、行业报告以及安全事件证据——我们归纳出 12 类跨层攻击向量,并展示了故障如何从推理层与工具层传播至资产托管、结算、市场损害以及合规风险层面。

随后,我们提出了一种分层防御架构,以弥补当前智能体支付协议在授权机制上的缺陷。总体而言,我们的分析表明:保障智能体商业的安全,本质上是一个跨层问题,需要在 LLM 安全、协议设计、身份体系、市场结构以及监管框架之间建立协同控制机制。

最后,本文提出了一份面向安全自主商业的研究路线图以及基准测试议程(benchmark agenda)。

原文链接:arxiv.org