EP100 · GPT-5.6 Sol、Agent 提示词缓存、AI 推理盈利账 · 06-27 早报BestBlogs

EP100 · GPT-5.6 Sol、Agent 提示词缓存、AI 推理盈利账 · 06-27 早报

12分钟 ·
播放数78
·
评论数0

★ 精讲一 | GPT-5.6 Sol 前瞻:下一代模型预览

来自 OpenAI News

OpenAI 启动 GPT-5.6 系列有限预览:旗舰 Sol、均衡款 Terra(性能比肩 GPT-5.5 但便宜一半)、低成本 Luna。新增 max 深度推理档与调用子智能体的 ultra 模式,Sol 在 Terminal-Bench 2.1 上以 88.8% 刷新编码 SOTA。这次首发只面向少数可信伙伴,并配合美国政府网络安全审查分阶段放开——能力跃升与安全门槛同步收紧,才是本次发布最值得关注的信号。

★ 精讲二 | Deep Agents 的提示词缓存

来自 LangChain Blog

LangChain 拆解了把生产级 Agent 成本压下来的关键杠杆——提示词缓存。难点在于各家策略割裂:Anthropic、Gemini 支持显式断点,OpenAI 走最长前缀自动缓存,Gemini 仅有隐式缓存。其 Deep Agents 框架做了 provider 无关封装,在真实 Agent 轨迹上把 token 成本砍掉 49%-80%(claude-haiku -77%、gpt-5.4-mini -80%)。会话越长收益越大,长程任务最受益。

★ 精讲三 | AI 推理显然是盈利的

来自 Sean Goedecke

不少人认为 AI 推理服务本身在亏钱、只能靠投资人输血续命,Sean Goedecke 算了一笔账反驳:4 张 A100 跑 70B 模型约 2M token/小时,电费加散热每百万 token 仅约 13 美分,摊上 GPU 折旧综合成本约 1 美元;而 GPT-5.4-mini 卖 4.5 美元,70%-80% 毛利完全成立。DeepSeek-V4-Pro 市场价约 87 美分已贴近成本佐证。真正亏的不是推理,而是 AI 实验室拿推理利润补贴训练军备竞赛。

速览

更多值得关注的内容

· 翁荔最新万字长文:大模型 Scaling Laws,要谨慎理解 — AINLP

· 新一代学习 AI,苹果端侧模型配方,GLM-5.2 攻克开放性问题 — The Batch | DeepLearning.AI

· 科技爱好者周刊(第 401 期):如何赚到 10 亿美元 — 阮一峰的网络日志

· 腾讯混元 AI Infra 如何优化 Hy3 Preview:一次大模型推理性能提升的技术拆解 — 腾讯技术工程

· OpenSandbox 再进化:Credential Vault 让真实密钥不再进入沙箱 — 阿里技术

· 火山引擎 AI 搜索千万级 Agent 架构演进与实践:从 ReAct 三节点到 Unified Policy — 字节跳动技术团队

· Zynga 创始人 Mark Pincus:消费者产品「现在没法投」,恰恰是你该入场的理由 [视频] — Y Combinator

补充阅读

今天额外值得一读的几条

· 饮水机闲聊第 11 期:RAG 评估中的过拟合 — Towards Data Science

· QoderWork Skills 开发实践:从传统数科到 AI 数科的转型探索-我的 Skills 进阶之旅 — 大淘宝技术

· 具身数据采集产业链调查:被机器人采集的人|甲子光年 — 甲子光年

· 未来五年,比技术更值钱的是这些基础能力 — 哈佛商业评论

· 教你的 AI 如何做决策 — HBR.org

· 英特尔,10000 亿市值还有多远? — 腾讯科技

相关链接

· 本期早报在线阅读:www.bestblogs.dev

· GPT-5.6 Sol 前瞻:下一代模型预览:www.bestblogs.dev

· Deep Agents 的提示词缓存:www.bestblogs.dev

· AI 推理显然是盈利的:www.bestblogs.dev

· 翁荔最新万字长文:大模型 Scaling Laws,要谨慎理解:www.bestblogs.dev

· 新一代学习 AI,苹果端侧模型配方,GLM-5.2 攻克开放性问题:www.bestblogs.dev

· 科技爱好者周刊(第 401 期):如何赚到 10 亿美元:www.bestblogs.dev

· 腾讯混元 AI Infra 如何优化 Hy3 Preview:一次大模型推理性能提升的技术拆解:www.bestblogs.dev

· OpenSandbox 再进化:Credential Vault 让真实密钥不再进入沙箱:www.bestblogs.dev

· 火山引擎 AI 搜索千万级 Agent 架构演进与实践:从 ReAct 三节点到 Unified Policy:www.bestblogs.dev

· Zynga 创始人 Mark Pincus:消费者产品「现在没法投」,恰恰是你该入场的理由 [视频]:www.bestblogs.dev

· 饮水机闲聊第 11 期:RAG 评估中的过拟合:www.bestblogs.dev

· QoderWork Skills 开发实践:从传统数科到 AI 数科的转型探索-我的 Skills 进阶之旅:www.bestblogs.dev

· 具身数据采集产业链调查:被机器人采集的人|甲子光年:www.bestblogs.dev

· 未来五年,比技术更值钱的是这些基础能力:www.bestblogs.dev

· 教你的 AI 如何做决策:www.bestblogs.dev

· 英特尔,10000 亿市值还有多远?:www.bestblogs.dev

关于 BestBlogs

BestBlogs 是 AI 驱动的私人阅读助手,帮助你发现真正适合你的高质量内容。关注你感兴趣的来源和主题,每天生成一份更适合自己的「我的早报」,欢迎体验。