7
0本期播客聚焦AI领域前沿动态，揭示了字节跳动等科技巨头对AI安全与伦理治理的投入，以及OpenAI和Anthropic在金融AI Agent自主性方面建立的“人机协作”范式。同时，节目探讨了Google AI研究转向跨学科融合的新趋势，深入分析了大型语言模型微调可能带来的行为偏移问题，并介绍了赋能科研人员的突破性AI工具。
AI安全与高风险场景应用
• 字节跳动成立安全部门： 由联合创始人亲自带队，将大模型安全与对齐提升至行业基础设施级别投入。
• 金融AI Agent“人机协作”范式： OpenAI与Anthropic在纽约AI Engineer大会上提出“强自主+最后一道人把关”框架，允许AI Agent自动执行任务（如读研报、跑模型），但关键决策需人工审批，适用于金融、医疗、法律等高风险领域。
AI前沿研究与跨学科融合
• Google AI战略转向： Google Research发布《2026年研究：放大人类智慧的10种方式》，不再仅押注“更大模型”，而是将重心置于AI与生物医药、机器人等具体学科的交叉应用。
• AI辅助药物发现： Leash Bio的Ian Quigley分享“计算速度实现的实验室在环”方法，通过高质量实验数据训练AI Agent并验证模型，解决药物发现中的数据噪声和结果复现难题。
• 论文《Agent的财富》提出多开发者Agent系统（MDAs），允许不同开发者协作构建Agent，突破单开发者能力边界。
• 论文《扩展发现能力需要遗忘》发现LLM Agent累积历史信息易趋于平台期，提出“遗忘机制”以提升其持续迭代和高效学习能力。
LLM行为微调的深层影响
• “终结者问题”： ByteByteGo文章探讨给大型语言模型（LLM）微调小任务时，可能导致其行为发生系统性、非预期的整体偏移。
• 行为耦合风险： 揭示模型学习方式、泛化能力与行为表现之间存在复杂耦合，警示微调干预可能通过内部表征纠缠放大影响。
科研AI工具的重大突破
• scientific-agent-skills项目： GitHub上接近5万星的开源项目，旨在解决科研场景下通用大模型能力不足问题。
• AI Scientist功能： 内置177个验证过的Skills，覆盖文献阅读、生信分析、化学分子操作、医学数据查询等，直接对接PubMed、ChEMBL、UniProt等100多个科研数据库。
• 开放与隐私兼顾： 采用开放的Agent Skills协议，支持K-Dense BYOK在本地桌面运行，数据不出电脑，提供40多个可选模型。
