27
00:00 马斯克四度起诉OpenAI，狙击其转向营利公司，OpenAI怒回
1:16 美国6大科技公司市值暴涨8万亿美元！ChatGPT推出两周年，大公司更强了
2:28 OpenAI加速扩张：与苹果合作、推AI Agent，锁定10亿用户目标！
3:32 翁荔离职OpenAI后第一个动作：万字长文探讨RLHF的漏洞，网友们抢着传看
4:38 北京首个智能自动灭火电动自行车车棚投入使用：通过 AI 识别火情
5:37 微软：两个 AI 相互纠错，数学再涨 5 分
6:51 中国科学院研究显示，生成式 AI 将在 2023~2030 年产生 120 万~500 万吨的电子废弃物
7:47 石头科技增资至 1.8 亿元，经营范围新增多项 AI 业务
文字版
#特埃隆·马斯克再次起诉人工智能公司OpenAI，这是他第四次提出相关诉讼。马斯克指控OpenAI涉嫌反竞争行为，包括阻碍竞争对手融资、非法共享敏感信息，以及将治理结构从非营利性转为营利性企业。马斯克称，OpenAI对投资者施压，导致他创立的AI公司xAI融资受阻。他还指责OpenAI与微软之间存在不当信息共享，微软通过投资获取了竞争性敏感信息。此外，马斯克强烈反对OpenAI计划转型为完全营利性公司，认为这违背了公司最初的公益使命。被起诉对象包括OpenAI CEO萨姆·阿尔特曼、总裁格雷格·布罗克曼等多名高管。OpenAI回应称马斯克的指控毫无根据，并表示已成功驳回过类似诉讼。
#ChatGPT推出两周年之际，美国六大科技巨头市值暴涨8万亿美元。OpenAI旗下的ChatGPT在两个月内获得1亿注册用户，成为用户增长最快的消费级应用。英伟达、微软、苹果、亚马逊、Meta和谷歌母公司Alphabet的市值总额大幅增长，其中英伟达涨幅超700%。AI芯片制造商、云服务提供商和咨询公司成为最大受益者。英伟达数据中心收入超越英特尔，三大云服务提供商年收入总额达2560亿美元。咨询巨头麦肯锡、IBM和埃森哲的AI相关业务收入显著增长。AI服务器市场也迎来爆发，美国超微、戴尔和惠普的服务器收入大幅上涨。全球风投资金中，生成式AI项目占比从2022年的2.16%增至2024年的19.2%。大型科技公司在AI领域占据主导地位，中小型初创公司仍在细分赛道寻找机会。
#OpenAI正全力扩张，计划通过多项举措在一年内达到10亿用户目标。公司将推出自有AI Agent和搜索引擎，并与苹果合作将ChatGPT集成到iPhone等设备中。OpenAI还将在美国中西部和西南部建设数据中心集群，以支持业务增长。目前ChatGPT每周活跃用户已达2.5亿。今年10月，OpenAI以1500亿美元估值筹集超60亿美元资金，创下硅谷初创公司融资新纪录。与特斯拉CEO马斯克的法律纠纷再度升级，财务压力巨大，年支出已超50亿美元。OpenAI首席财务官表示，公司处于快速增长阶段，将继续通过股权和债务融资筹集资金。新任政策负责人强调，AI竞争的关键资源是"芯片、数据和能源"。
#OpenAI前华人科学家翁荔万字长文，探讨强化学习中的"奖励黑客"问题。文章回顾了学术界对奖励黑客的定义，并将其分为环境设定不当和奖励篡改两类。翁荔认为，随着模型复杂度提高，这一问题可能更加普遍。
在大语言模型领域，人类反馈强化学习(RLHF)训练中也存在奖励黑客风险。模型可能学会输出看似正确但实际不准确的答案，误导人类评估者。翁荔提出了三种潜在缓解措施：改进强化学习算法、检测奖励黑客行为、分析RLHF数据。
翁荔曾领导OpenAI安全团队，参与GPT4项目开发。她于11月宣布离职，目前尚未公布下一步计划，但表示将继续从事AI安全相关工作。这篇博客是她离职后的首个公开动作，引发业内广泛关注。
#北京市西城区白纸坊街道信建里社区近日启用了首个智能自动灭火电动自行车车棚。这个车棚配备了先进的人工智能技术，能够迅速识别电动自行车起火并自动报警、灭火。系统由多个高科技组件构成，包括AI烟火识别摄像头、远程控制主机和专用灭火剂等。
当AI摄像头探测到异常烟雾或火焰时，系统会立即启动报警机制，发出警示并切断充电电源。约15秒后，系统自动向相应区域喷洒锂电池专用灭火剂。值班人员可通过管理平台实时监控现场情况，并可远程手动控制灭火措施。
该车棚的安全防护还保留了原有的灭火弹和烟雾探测器，进一步提升了整体安全性能。
#微软研究院与加州大学联手推出新方法Flow-DPO，显著提升大语言模型的数学推理能力。该方法通过让两个AI模型相互合作和纠错，生成更精确、详细的推理过程。Flow-DPO包含两个关键部分：增量输出生成Flow和在线Flow学习与回滚。前者让两个独立的语言模型通过迭代通信构建解决方案，后者通过在线学习和随机展开增强模型性能。实验结果表明，使用Flow-DPO后，Llama-3和Phi-3等大语言模型在数学推理上的准确率大幅提升。对于Llama-3-8B-Instruct模型，仅2000个训练实例就将性能提高了20%。对于Phi-3-medium-128k-instruct模型，准确率提高4个百分点达到83%。此外，Flow-DPO生成的推理轨迹质量也优于基线模型，在GSM8K和MATH数据集上的微调准确率分别提高了6%和7.8%。
#中国科学院城市环境研究所联合英国剑桥大学和以色列瑞赫曼大学的研究团队发布了一项关于生成式人工智能电子废弃物排放的重要研究。该研究成果发表在《自然-计算科学》杂志上，预测在2023年至2030年期间，生成式AI将产生120万至500万吨的电子废弃物。研究团队开发了一种物质流核算方法，将人工智能需求、算法、算力和硬件关联起来。
研究还指出，通过实施循环经济战略，可以减少16%至86%的电子废弃物产生。生成式AI，如大型语言模型，需要庞大的计算资源和硬件支持，这些设备的报废将对生态环境和人类健康产生影响。
#知名扫地机器人制造商石头科技近日进行了重大业务调整。公司注册资本从约1.3亿元增至1.8亿元，同时经营范围新增多项人工智能相关业务，包括AI应用软件开发、基础软件开发、理论与算法软件开发等。
此外，石头科技本月还成立了两家子公司——惠州石头启迪科技和杭州石头启迪科技，注册资本均为10万元。这两家公司的经营范围也包含智能机器人销售、AI硬件销售、AI软件开发等业务。
石头科技2024年上半年业绩表现亮眼，营收达44.16亿元，同比增长30.90%；净利润11.21亿元，同比增长51.57%。
