一个人也能独自开发大模型?对谈开源大模型 RWKVAI炼金术

一个人也能独自开发大模型?对谈开源大模型 RWKV

51分钟 ·
播放数1431
·
评论数10

嘉宾|罗璇,开源大模型 RWKV 元智能联创&CPO,炬星科技联合创始人,前阿里机器人产品总监


最近能看到,“泄漏”了很多GPT-4相关的模型的一些参数,内部架构等等。其中需要的“资金”是特别恐怖的,训练一次GPT-4预估的成本在6000万美元。


而一个创业公司,做“大”公司一样的事情,还是开源项目,是否会担心拼“钱”拼输了?


其实直到现在 Transformer 类的模型还是偏向于经验科学,也就是我们对他为什么有效并不够了解,既然大部分人在“经验”上都选了 Transformer 类的模型:


如何相信开源大模型 RWKV?开源大模型 RWKV 究竟特别在哪里?



每周更新文章,公众号:AI炼金术

每周直播,视频号:AI炼金术

商务合作:在公众号:AI炼金术 菜单栏中【商务】获取联系方式



相关 AI 实战课程

任鑫《AI新商业机会洞察22讲》

tools.hundun.cn



徐文浩《AI 大模型之美》

time.geekbang.org


展开Show Notes
Ambererer
Ambererer
2023.9.15
10:10 要和RWKV合作才能做预训练(即使开源)
股市难预测:到底开源不开源?没有具体的数字
Ambererer
Ambererer
2023.9.15
31:13 可能终端有机会
Ambererer
Ambererer
2023.9.15
25:3824:54 适合终端,架构开源都有人帮忙做
Ambererer
Ambererer
2023.9.15
17:44 一直开源,成立商业公司商业化
Ambererer
Ambererer
2023.9.15
开源社区海内外有17000人(海外7000人)卡是stability ai免费供
怎么能加群了解?🫡👋👋
严格_:可以加知识星球:https://t.zsxq.com/0byKORDEJ
HD_4bFZ
HD_4bFZ
2023.7.29
要是有字幕就好了