EP93 · 限研争议、应用攻防、工程再思 · 06-20 早报 - BestBlogs

★ 精讲一 | 测试神话与寓言，超越 SWE-bench，Nvidia 的开放竞争者

Andrew Ng 罕见动怒：Anthropic 不仅给 Claude Fable 5 加上限制竞品研究的条款，还被曝悄悄降低疑似同行研究者的输出质量；美国商务部出口管制更直接逼得 Fable 全球下线，掀起多国关于 AI 主权的讨论。同期 DeepSWE 等新基准证明智能体编程能力远未触顶，Nvidia 也以混合架构悄然加入开源模型竞速。

★ 精讲二 | 攻破 LLM 驱动的应用：从上下文投毒、工具越权到纵深防御 [视频]

来自 Spring I/O

Spring I/O 演讲实测攻破 LLM 应用：用路径穿越污染 RAG 知识库让助手认账虚构条款，靠 SQL 注入伪造聊天记忆诱导越权操作，再用拆分提问绕过护栏套取用户数据；核心结论是护栏只能降风险，授权、最小权限工具与可观测性才是真正防线。

★ 精讲三 | AI 革命新思考：过去 50 年，软件工程其实没真正“工程化”过？

来自 dbaplus 社群

作者提出尖锐论断：过去 50 年软件工程靠人脑堆代码，从未真正工程化；大模型第一次实现耗能换高阶认知，但范式必须从人为中心 + AI 辅助转向 AI 为中心，否则不确定性会在人机之间循环放大——程序员将从人肉编译器转型为产线设计师与偏差拉回者。

速览

更多值得关注的内容

· Project Valhalla 详解：十年磨一剑，JDK 28 预览版终登场 - JVM Weekly vol. 180 — Hacker News

· Andrew Ng 论 AI 控制：Anthropic 与美国政府行动标志着转折点 — Andrew Ng(@AndrewYNg)

· 为敏感云系统设计持续授权 — InfoQ

· TypeScript 7.0 RC 发布，编译器移植 Go 实现 10 倍提速 — Microsoft for Developers

· 暗物质探索迎来全新局面 — MIT Technology Review

· 谁在 ChatGPT 上投广告？ChatGPT 和 Claude 又在哪投广告？ — Founder Park

· 两个 80 后，在硅谷“崩老头” — 腾讯科技

补充阅读

今天额外值得一读的几条

· Loop Engineering 概念解析、思考与实践 — 阿里技术

· OpenAI 的 o3 Deep Research 助力诊断 18 例此前未获解答的医学病例 — Greg Brockman(@gdb)

· 图灵奖得主押上 10 亿美元的「世界模型」，是 AI 的下一个十年？（下） — 十字路口 Crossing

关于 BestBlogs

BestBlogs 是 AI 驱动的私人阅读助手，帮助你发现真正适合你的高质量内容，欢迎体验。

关注你感兴趣的来源和主题，每天生成一份更适合自己的「我的早报」。欢迎体验并反馈：www.bestblogs.dev

在线阅读：www.bestblogs.dev

BestBlogs.dev · 发现真正适合你的高质量内容

★ 精讲一 | 测试神话与寓言，超越 SWE-bench，Nvidia 的开放竞争者

★ 精讲二 | 攻破 LLM 驱动的应用：从上下文投毒、工具越权到纵深防御 [视频]

★ 精讲三 | AI 革命新思考：过去 50 年，软件工程其实没真正“工程化”过？

速览

补充阅读

相关链接

关于 BestBlogs