133.当AI助手把公司数据喂进了训练集

133.当AI助手把公司数据喂进了训练集

15分钟 ·
播放数51
·
评论数0

本期要点

· Cursor 在 Grokbot(原名 Sand)发布前发现,公司内部使用这款 AI 助手产生的数据未做正确标记,被混进了准备发给 xAI 的训练数据。

· 内部使用过程中,这款助手接触过客户信息、潜在招聘对象和公司内部系统,因此这批数据本身可能已经含有敏感内容。

· 时间线:今年 6 月 Cursor 在全公司范围开放 Sand;7 月下旬、也就是 Grokbot 发布前的几周,内部发现问题。

· 调查结论:无法确认数据是否已经发给 xAI;但确认公司的系统没有配置好,没能阻止内部使用数据进入训练集。

· 已采取的措施:确保今后内部使用产生的数据不再进入训练集,并对已发给 xAI 的那批数据做了敏感信息扫描。

· 员工数据这一环:未来训练不再使用员工数据;由于用个人邮箱(Gmail)的员工难以逐一关闭,公司最终直接停用了这批账号。

· 这并非首次:今年夏初,销售人员用「氛围编程」搭的几个网站以为有密码保护,客户 Verizon 的相关信息实际暴露在公网上。

· 更大的议题:AI 智能体能看到邮件、短信等海量个人数据,真正决定结果的不只是各家「不会训练你的数据」的声明,而是它们采取了哪些具体的数据保护措施。