Vol.43|ChatGPT 爆火,AI 时代如何突围「缺芯困境」Founder 100

Vol.43|ChatGPT 爆火,AI 时代如何突围「缺芯困境」

32分钟 ·
播放数733
·
评论数4

【本期内容】

人工智能领域的新宠儿 ChatGPT 正在疯狂刷屏。但其创新和颠覆的背后,并不只是靠堆参数、堆样本、调算法。而容易被忽视的,是其支撑一切的算力基础设施:

据评估,采购一片英伟达顶级 GPU 成本为 8 万元,GPU 服务器成本通常超过 40 万元。对于 ChatGPT 而言,支撑其算力基础设施至少需要上万颗英伟达 GPU A100,一次模型训练成本超过 1200 万美元。

如果想要复刻、甚至超越 ChatGPT 的成就,必须要突围芯片和算力的「卡脖子」难题。目前国产芯片的发展面临两个机遇:

  • 首先是缺芯困局下,国产化替代的呼声越来越高,这无疑给国内芯片创业者提供了一个发展的缓冲期。对于 2020 年创业做大算力芯片的后摩智能创始人 & CEO 吴强来说,「在芯片成长早期,这个条件是国内独有的,我在美国是不敢做芯片创业的。」
  • ChatGPT 大火,人工智能发展对于大算力的需求,给予了芯片创业新的机会。在吴强看来,存算一体芯片可能是国产芯片算力弯道超车的机会。相比较传统的冯·诺依曼架构芯片,「存算一体」创新计算架构对工艺的依赖较弱,能用 28nm 工艺做出基于传统计算架构的其他 AI 芯片用 7nm,甚至 5nm 工艺才能实现的性能/能效比。要知道,这次 ChatGPT 背后采用的英伟达 GPU A100,就是采用 7nm 制程工艺。

本期播客,我们就邀请到顶级芯片学术会议(ISCA等)组委会委员、后摩智能创始人 & CEO 吴强,来跟 Founder 100 栏目观察员王式一起聊聊,国内芯片创业的机遇和差异化优势。

                                

🎉如果你喜欢节目并想和我们交流、分享内容看法👉欢迎添加 幕后微信「18981006667」,备注「播客」

                               

【延伸阅读】

存算一体,国产大算力芯片的新机遇 | Rebuild 2022

                              

【精彩时刻】

02:09 存算一体芯片架构:适合数据量庞大的计算(如 AI 计算)

05:24 存算一体的演进简史

07:22 认知:很多时候算力上不去,不是因为计算不行,而是带宽不够

09:18 存算一体核心挑战:存储介质的工艺、从学术到商业量产

11:52 为什么美国的芯片创业公司很少?

15:20 应用场景:需要大算力的场景,比如自动驾驶

18:22 对于自动驾驶,存算一体能够在成本上带来优势吗?

21:23 认知:国内卡脖子的都是大芯片,小芯片从来不卡

22:00 认知:同等算力下,存算一体对于工艺制程要求更低

24:57 存算一体:功耗低、成本低、算力高

29:41 认知:真正的护城河其实不是芯片本身,而是软件生态

                      

【嘉宾 & 公司简介】

  • 吴强(后摩智能创始人 & CEO):

美国普林斯顿大学博士,AMDGPGPU/OPENCL 创始团队核心成员,Facebook 资深技术专家,国内知名 AI 芯片独角兽公司技术副总裁及 CTO 等,科研成果曾获 MICRO-38 唯一一个最佳论文奖,科研成果被 IEEE Micro 评选为年度最有影响的 12 个科技成果之一,顶级芯片学术会议(ISCA等)组委会委员,美国 NSF 云计算评审委员会委员。

  • 后摩智能:

创立于 2020 年底,是国内首家专注于存算一体技术的大算力 AI 芯片公司,致力于突破智能计算芯片性能及功耗瓶颈,加速人工智能普惠落地。其提供的大算力、低功耗的高能效比芯片及解决方案,可应用于智能驾驶、泛机器人等边缘端,以及云端推理场景。

                                   

【关于我们】

跟 100 位创业者,聊聊最有潜力的科技赛道。欢迎来到  Founder 100 栏目 :-) 👉这里我们会跟「早期科技创业者」深度聊天,记录他们的思考洞察,也许他们的日常就是咱们还未探索过的新鲜玩意儿~

                                 

栏目观察员:王式

视频号:FounderPark

公众号:Founder Park

本期编辑:Muji、田文博

音乐:38辑 - AudioJungle 精选合集 - 技术

展开Show Notes
优点讲了很多,不知缺点是什么?
晨萱I语迟者说:问了ChatGPT,不知是否准确:优点: 1. 可以提高系统的整体性能,减少内存之间的带宽瓶颈,减少CPU和GPU的通信延迟,提高数据处理速度。 2. 可以减少系统的功耗和空间占用,因为存算一体大芯片集成了各种功能模块,避免了额外的功耗和空间开销。 3. 可以提高安全性,因为不需要在芯片之间传递敏感数据,减少了数据被窃取或破坏的风险。 缺点: 1. 芯片设计难度较大,需要兼顾存储和计算两方面的需求和限制,对芯片制造工艺和性能要求较高,可能会导致成本较高。 2. 存算一体大芯片不太灵活,在处理不同类型的数据或任务时可能效率不佳,无法满足特定需求。 3. 由于存算一体大芯片包含大量的功能模块,一旦其中有一个模块出现故障,整个系统可能会受到影响,可靠性可能会降低。
Galaxy_Xxr7:可以看AI芯片这本书,这个技术类似于芯片产业迭代升级,跟GPU还是CPU是两个概念。类似286到386
CC023
CC023
2023.2.26
谢谢。