071.别再限额 token:让 AI 编码框架自己挑更划算的模型

071.别再限额 token:让 AI 编码框架自己挑更划算的模型

31分钟 ·
播放数24
·
评论数0

本期要点

· 别再限额令牌:让 AI 编码框架自己挑更划算的模型

· 本期解读 Cast AI 联合创始人劳拉与泡菜编码平台工程负责人吉尔维纳斯在 AI Engineer 大会的现场演讲。

· ❶ 令牌账单为什么会失控:印度某公司一个月在 Anthropic 上花掉 5 亿美元,优步 CTO 四个月用完全年预算。

· ❷ 限额令牌是错的解法:那相当于给开发者一台笔记本,但电池只有一小时、一天只能充一次电。

· ❸ 关键标尺:每令牌成本不等于每任务成本。Gemini 3 Flash 单价 3.5 美元/百万令牌却花 75 美元完成任务,Minimax 2.7 单价 1.5 美元却要 148 美元。

· ❹ 解法:让执行框架(Harness)按任务结果自动挑模型。三个月实测令牌用量涨 1.5 倍、单位代码成本降 1.5 倍,总账省 2.5 倍。

· ❺ 六月十二日,执行框架自己把首选模型从 Kimi 2.6 换成了 Minimax 3——人不会注意到的变化,成本敏感的框架会。

· ❻ Ferment:面向长任务,人平均每两三个小时才需要介入一次;评分至少到 B 才算完成,不满意可以让智能体改到 A。

· ❼ 传送门与工作台:把编码环境搬到远端沙箱,合上笔记本任务继续跑(已有 62% 工程师只用传送门),并用看板让团队共享会话。

· ❽ 边界:数据全部来自讲者自家产品、尚无第三方审计;把选模型交给框架的前提,是你信得过它那套质量评分标准。

· 本节目为第三方演讲的转述解读,仅代表讲者与评论者观点,不构成任何采购或投资建议。