锐评国模与 Neo Lab,畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾

锐评国模与 Neo Lab,畅谈 RL 人生与 RLaaS | 对谈 Mind Lab 首席科学家骁腾

63分钟 ·
播放数6313
·
评论数27

这期播客中,我们和骁腾探讨了不少颇为尖锐的话题,比如国模到底哪家强,各家又有什么问题?到底该怎么定义 Neo Lab?从 Macaron 到 Neo Lab,再到 RLaaS,Mind Lab 这一路的转型背后有哪些思考,现在又做得怎么样?

坦白说,这期对我们来说,是一个打破不少固有认知的过程。骁腾的回答都很实在,也很 solid,而且他可能是我们最近聊过的最「快乐」的 Researcher 哈哈。听他聊下来,我们不仅对 Mind Lab 在做的事有了更全面的了解,也对 RL、模型发展和 RLaaS 的实际运作有了新的理解。节目中,他还分享了很多从 RL 研究中获得的生活哲学。在他看来,创业可能才是最符合 RL loop 的事情。

【人类博物馆】

导游:曲凯,42章经创始人

55 号珍藏:马骁腾(Pony),Mind Lab 联合创始人、首席科学家,清华大学自动化系博士、博士后,长期从事强化学习与模型后训练研究,关注 AI 如何从真实交互中持续学习

【时光机】

Part 1 一个 RL Researcher 的人生选择

  • 00:54 如何看待 Mind Lab 的争议,在 Mind Lab 工作是种什么体验?

  • 03:02 为什么首选不是去 AI Lab?

  • 03:46 做 RL 学到的三件事

  • 04:28 「我一直都是一个 90 分主义者」

  • 08:32 创业是最符合 RL Loop 的事?

  • 10:06 没在模型厂待过,凭什么能训好模型?

  • 13:24 在叉院的时候一度非常绝望,觉得 research 做不过别人

  • 16:20 国内 RL 的困境可能是「立山头」现象比较多?

Part 2 模型的发展与 Neo Lab 的叙事

  • 18:10 对国模的态度:短期悲观,长期乐观

    • 20:18 Anthropic 的一个让人担忧的做法

  • 22:21 大厂确实资源多,但真不一定是最后赢家,甚至可能会集体失败?

  • 28:28 国模接下来要拼的是什么?

  • 30:42 锐评一下海外和国内的模型

  • 35:32 啥是 Neo Lab?

  • 38:20 Researcher 都在犯一个致命错误

  • 39:26 到底该先做模型,还是先做产品?

  • 41:53 RSI 现在完全就是个宣传口号?

Part 3 聊聊 Mind Lab

  • 44:21 从 Macaron 到 Neo Lab 再到 RLaaS,Mind Lab 到底在做啥?

  • 45:55 为什么美国各种中间层的公司都在做自己的模型?

  • 48:40 RLaaS 的客户画像是怎样的?

  • 50:52 自己训模型的意义是什么?账算得过来吗?

  • 53:45 为什么头部公司不自己训模型,而要采买外部服务?

  • 54:58 做 LoRA 的心路历程:scale up、scale down 与 scale out

  • 57:21 最近最关注的问题:continual learning

  • 59:01 「我并不担心被模型吃掉,甚至觉得我们一直在从中受益」

【The gang that made this happen】

  • 制作人:陈皮

  • 剪辑:二琳,陈皮

  • 片头:Mondo Bongo - Joe Strummer & The Mescaleros

  • 片尾:Sparklehorse - Hundreds Of Sparrows

展开Show Notes
Hera_rrSO
Hera_rrSO
7天前
非常real非常solid 的访谈哇
鲤鱼头:抓
HD459411f
HD459411f
7天前
bro 不愿意说“驱动”,却愿意说 driven 第一个元音读错
R3T6Z3:bro 说自己叫pony 就已经很有意思了,非贬义,就是比较中二。
听到的不是一个新锐科技创业者,而是一个已经非常世俗化夸夸其谈的投机商人
HD656899z
HD656899z
7天前
23:45 传下去 谷歌碍于主营业务 雪藏超级 gemini 甘愿当北美大豆包🌚🌚🌚
曲凯
:
但并没有什么用🫠主营业务还是崩了,哈哈
R3T6Z3:晚崩了很多年,商业上没什么问题
sabaping
sabaping
4天前
非常喜欢这期访谈!
gegrgr-
gegrgr-
7天前
24:33 根本问题应该不是大厂而是“上市”公司财务报表吧🤔
46:16 哈哈哈哈 没有人记住了马鞍子
小马哥牛逼
blakeM
blakeM
7天前
棒👍
橘AI
橘AI
7天前
赚钱让人快乐
_GGs1
_GGs1
6天前
34:59 字节seed大语言模型失败了?不是国内最强的?
楚地无雪:语言模型 seed 和视频生成模型 seedance 不是一个东西,
非常有理想又有想法的research
AI游探
AI游探
2天前
38:13 人间清醒。
浩Sean
浩Sean
4天前
Mercor
差点看成 pony马化腾
Kimi有唐老师在?fancy
感觉水平一般…
gegrgr-
gegrgr-
6天前
58:30 似乎解决这个问题可以一定程度让ai更有主观能动性?
gegrgr-
gegrgr-
6天前
50:05 但是很多时候客户都不知道他不知道什么、需要什么,有自己benchmark的客户固然很优质,但是谁为他提供服务的稀缺性就会大打折扣,这么听下来,假设主播的理解是业内top,那么实际落地闭环产生现金流确实还有很长的路要走🤔
HD583851z
HD583851z
6天前
在公司后面还能融到钱吗