19
0用声音克隆技术转录自 www.youtube.com
这段播客对话围绕人工智能（尤其是OpenAI）的发展、影响与治理展开。
核心观点是AI正以前所未有的速度重塑社会，带来巨大机遇与严峻风险。
关键论据包括：AI已能赋能个体完成以往需要大型机构才能实现的任务（如定制mRNA疫苗），极大提升个人能力；同时，其强大能力也带来新的安全挑战，如生物恐怖主义等滥用风险。
对话者强调，AI的发展轨迹可能使世界上的“认知总量”很快由机器主导。
主要结论涉及多个层面：在治理上，AI公司必须与政府合作，确保技术不被滥用，并帮助维护国家安全，但决策权应通过民主程序而非由企业掌控；在发展方向上，OpenAI选择集中资源于核心领域（如自动化研究与个人助手），关停了部分项目（如Sora），以应对算力限制与安全考量；在社会影响上，AI可能改变教育、工作与人际关系，需警惕其可能削弱人类独立思考与应对逆境的能力，但通过合理设计（如设置“提出异议”的AI模型）可引导良性互动。
对话者最终指出，当计算机能像人类一样思考时，如何设计社会将成为时代最重大的伦理问题。
