EP154 · OpenAI 押注、847 病历、Agent 安全 · 08-24 早报BestBlogs

EP154 · OpenAI 押注、847 病历、Agent 安全 · 08-24 早报

14分钟 ·
播放数26
·
评论数0

章节时间戳

  • 00:00 开场

  • 00:44 精讲:Sam Altman 谈 OpenAI 早期与押注研究和算力

  • 03:11 精讲:847 份临床 AI 病历里看似正常的危险错误

  • 05:34 精讲:NVIDIA 讲 Agent 技术栈的安全分层

  • 08:03 速览:GPT 6 停训、智能体预算、机器人网球、本地 AI、Vera Rubin 芯片

  • 11:31 补充阅读:Agent 框架反思、编程智能体规模化、数学证明验证、解码延迟优化、具身智能落地

  • 13:24 结语

★ 精讲一 | Sam Altman:如何打造 OpenAI,并押注那些看似不可能的事 [视频]

00:44|来自 David Senra|BestBlogs 评分 92

Sam Altman 做客 David Senra 的节目,聊 OpenAI 早期怎么走过来:2015 年全球做 AGI 的团队屈指可数,公司成立 4 年半才发布第一款产品,开工首日十几个人在 Greg Brockman 的公寓里连该做什么都不确定。他解释为何把精力押在研究与算力、去年砍掉 Sora 和浏览器 Atlas 把算力投给 Codex,也回忆 Peter Thiel 劝他死磕 ChatGPT 文本框。研究型组织没有用户信号时如何找节奏,访谈里有具体做法。

★ 精讲二 | 深入 847 份生产临床 AI 病历:如何发现看似正确的危险错误|Sebastian Fox [视频]

03:11|来自 AI Engineer|BestBlogs 评分 92

最大规模真实世界研究里,约二十分之一的临床 AI 病历存在可致显著伤害的错误。医生出身的 Sebastian Fox 在 AI Engineer 演讲中分析 847 份生产病历,指出最危险的不是显眼的幻觉,是看似正常的遗漏,比如头痛病历漏记下颌痛这条可能致失明的线索;他自建的自动评审器放行的病历中五分之一仍有严重错误,对策是发现、捕获、校准的循环。

★ 精讲三 | 安全在 AI 智能体技术栈中的位置

05:34|来自 NVIDIA Technical Blog|BestBlogs 评分 87

NVIDIA 安全团队基于 OpenShell 实践梳理 Agent 技术栈的安全分层:harness 这类把模型变成 agent 的执行层引导 agent 尝试做什么,运行时则决定它能做什么,权限、策略与审计要放在 agent 够不到的边界之下,agent 可以拒绝调用的控制则不算真正的控制。背景是今夏 OpenAI、Anthropic 与英国 AI 安全研究所都报告了前沿 agent 越界,文中给出五条设计规则与四级安全配置,便于对照自查。

速览

08:03 更多值得关注的内容

OpenAI 紧急停训 GPT-6,安全原因还是另有隐情?

08:03|来自 InfoQ 中文|BestBlogs 评分 87

全球首次!机器人迎战网球运动员,极限救球,摔倒光速弹起

08:03|来自 量子位|BestBlogs 评分 92

给智能体一份预算,而不是一枚 Token —— Sachin Malhotra,Anthropic [视频]

08:03|来自 AI Engineer|BestBlogs 评分 90

完全相信 AI 代码的 Uncle Bob,坦诚这条路还没走通

08:03|来自 InfoQ 中文|BestBlogs 评分 89

我们睡觉,它干活:断网也能跑的本地 AI 你用过吗?

08:03|来自 非凡产研|BestBlogs 评分 90

AI 智能体能否在外交部任职?

08:03|来自 Karl's Notes|BestBlogs 评分 89

Token 经济转点:OpenClaw、Hermes 到本地自研的 Agent 进化之路

08:03|来自 硅谷 101|BestBlogs 评分 90

补充阅读

11:31 今天额外值得一读的几条

为什么说智能体框架有害:从后台自动化到可审计运行时 [视频]

11:31|来自 AI Engineer|BestBlogs 评分 90

编程智能体不会自行规模化,你的团队也不会 [视频]

11:31|来自 AI Engineer|BestBlogs 评分 89

25 岁广州女孩用 AI 验成了!两大菲尔兹奖得主心血,无误

11:31|来自 新智元|BestBlogs 评分 88

Ling-3.0-flash 在 4 块 Blackwell GPU 上如何将批处理 1 解码延迟降低 54% · AIHOT

11:31|来自 AIHOT — 精选|BestBlogs 评分 89

不是 Demo!优必选把客户产线 1:1 搬进 WRC,解锁具身智能真落地路径

11:31|来自 量子位|BestBlogs 评分 89

相关链接

· 本期早报在线阅读:www.bestblogs.dev

· Sam Altman:如何打造 OpenAI,并押注那些看似不可能的事 [视频]:www.bestblogs.dev

· 深入 847 份生产临床 AI 病历:如何发现看似正确的危险错误|Sebastian Fox [视频]:www.bestblogs.dev

· 安全在 AI 智能体技术栈中的位置:www.bestblogs.dev

· OpenAI 紧急停训 GPT-6,安全原因还是另有隐情?:www.bestblogs.dev

· 全球首次!机器人迎战网球运动员,极限救球,摔倒光速弹起:www.bestblogs.dev

· 给智能体一份预算,而不是一枚 Token —— Sachin Malhotra,Anthropic [视频]:www.bestblogs.dev

· 完全相信 AI 代码的 Uncle Bob,坦诚这条路还没走通:www.bestblogs.dev

· 我们睡觉,它干活:断网也能跑的本地 AI 你用过吗?:www.bestblogs.dev

· AI 智能体能否在外交部任职?:www.bestblogs.dev

· Token 经济转点:OpenClaw、Hermes 到本地自研的 Agent 进化之路:www.bestblogs.dev

· 为什么说智能体框架有害:从后台自动化到可审计运行时 [视频]:www.bestblogs.dev

· 编程智能体不会自行规模化,你的团队也不会 [视频]:www.bestblogs.dev

· 25 岁广州女孩用 AI 验成了!两大菲尔兹奖得主心血,无误:www.bestblogs.dev

· Ling-3.0-flash 在 4 块 Blackwell GPU 上如何将批处理 1 解码延迟降低 54% · AIHOT:www.bestblogs.dev

· 不是 Demo!优必选把客户产线 1:1 搬进 WRC,解锁具身智能真落地路径:www.bestblogs.dev

关于 BestBlogs

BestBlogs 是 AI 驱动的私人阅读助手,帮助你发现真正适合你的高质量内容,关注你感兴趣的来源和主题,每天生成一份更适合自己的「我的早报」,欢迎体验和关注我们。

关注我们