警惕 AI Agent 失控:90% 企业在用,仅 10% 安全?

警惕 AI Agent 失控:90% 企业在用,仅 10% 安全?

10分钟 ·
播放数136
·
评论数0

Show Notes:AI Agent:炒作还是希望?

基本信息

  • 主题:AI Agent 的应用现状、风险与安全治理
  • 嘉宾:Okta 总裁兼首席运营官 Eric Keller

核心内容

  1. 现状鸿沟:Okta 调查显示,超 90% 企业已在生产环境部署 AI Agent,但仅 10% 认为其得到适当管理保护,行业急于创新却忽视安全。
  2. AI Agent 定义:能代表用户异步自主行动,可自主判断行动内容与方式,区别于过往 API 通信技术。
  3. 风险案例:某全球连锁餐厅 AI 招聘 Agent,因开发者压力未考虑安全(用默认密码 “123456”),遭攻击泄露 6000 万求职者信息。
  4. 解决方案:倡导 Cross-App Access 开放标准,规范 Agent 身份管理;强调数据治理,明确 Agent 数据访问与使用边界。
  5. 未来思考:对 “上传大脑” 持谨慎态度,需本地控制、保障数据隐私;提及人类与 AI 建立 “真实关系” 的现象,警示社会需学习技术教训。