Transformer架构的奠基人之一Llion Jones在TED演讲中指出,尽管当前AI领域涌入了前所未有的资金与人才,但由于沉重的竞争压力和对现有技术的过度依赖,科研环境正变得日益狭隘。
核心观点:
竞争悖论:由于投资者追求回报以及研究者担心被"抢先发布",导致大家倾向于选择容易出成果的"低垂果实"。
探索与榨取的失衡:现在的AI界过度执着于在现有架构上做微小改进。
科研环境的回归:Transformer诞生于一个有机、开放且没有管理层压力的环境。
寻找下一个突破:从自然中汲取灵感,鼓励支持更具投机性的创意。

