OpenAI改口催加州收紧AI安全法案AI观测站-AI Observatory

OpenAI改口催加州收紧AI安全法案

8分钟 ·
播放数13
·
评论数0

🛒 AI 好书一站购|京东人工智能图书会场(每期荐书都在这,长期有效)

📚 今日荐书|《芯片战争》——一部芯片史就是半部地缘政治史,看懂英伟达/台积电新闻的底本

🧠 本期要点

1) OpenAI呼吁加州加强第53号参议院AI安全法案,此前曾反对该法案,TechCrunch 8月22日报道。

2) TechCrunch同日援引新研究称,领先AI实验室很少公开记录如何控制失控模型,包括关停流程和隔离方案。

3) CNBC 8月21日报道,Anthropic未来IPO文件将把AI引发的公众反弹列为风险因素,涉及数据中心反对和就业担忧。

4) 《南华早报》8月21日报道,TikTok及字节跳动以4亿美元和解美国儿童在线隐私诉讼,该案由司法部和FTC在2024年提起。

5) TechCrunch 8月22日报道,英国实验室Inherent发布科研AI智能体Faraday,称在论文复现任务上超过Anthropic和OpenAI系统。

6) TechCrunch 8月21日报道,AI会计初创公司Rillet完成1亿美元融资,48小时内成为独角兽,投资方包括Iconiq和红杉。

⏱ 时间线

00:03 8月22日,OpenAI公开要求加州把AI安全法案写得更严。

00:30 科技媒体TechCrunch 8月22日报道,头部模型公司OpenAI呼吁加州加强第53号参议院法案。

00:50 呼吁加强法案,不等于新条款已经通过。

01:15 法案若继续收紧,影响会先落到产品上线前的材料准备。

01:38 OpenAI改口的背景,是行业对失控模型仍缺一份公开答案。

01:56 “公开记录很少”不能直接推成实验室内部毫无预案,现有材料也没有列出每家公司的得分。

02:20 这会改变安全能力的定价。

02:43 安全问题还在走进资本市场。

03:08 消息人士的说法不等于Anthropic已经递交上市文件,风险措辞也可能继续调整。

03:33 等头部模型公司Anthropic真正递交上市文件时,今天写进风险因素的公众反弹将第一次接受资本定价。

03:44 模型公司在讨论未来规则,短视频平台已经收到一张现实账单。

04:09 对科技平台来说,4亿美元会把儿童数据治理从合规部门的提醒,变成管理层能看见的成本。

04:37 这条新闻也会影响AI产品的数据习惯。

05:00 规则变严并没有让应用停下来。

05:25 这里的领先来自公司自己的比较,不能外推成它在所有科研任务上都更强。

05:50 对企业研发部门来说,Faraday提供了一个比通用聊天更具体的采购问题。