497
2📝 本期播客简介
本期我们克隆了：AI Engineering with Chip Huyen
主持人 Gergely Orosz 邀请到计算机科学家、作家 Chip Huyen。Chip 不仅是 O'Reilly 平台上备受欢迎的《AI Engineering》一书的作者，还曾在 Netflix 从事研究，担任过 Nvidia 生成式 AI 框架 NeMo 的核心开发者，并在斯坦福大学教授机器学习系统设计。在这期节目中，Chip Huyen 与 Gergely Orosz 深入探讨了人工智能工程的核心概念，清晰地剖析了它与传统机器学习工程的区别和演进。您将了解到构建AI应用的典型步骤，从模型选择、热门的检索增强生成（RAG）技术，到何时以及如何进行模型微调。Chip 还分享了软件工程师如何务实地进入AI应用开发领域，评估AI系统输出的常见方法与挑战，以及在AI项目初期应避免的常见误区。此外，她还对AI是否会取代软件工程师等热门话题给出了独到见解。
👨⚕️ 本期嘉宾
Chip Huyen，计算机科学家、作家，《AI Engineering》一书的作者。她曾在 Netflix 从事研究，是 Nvidia 生成式AI框架 NeMo 的核心开发者，也曾在 Snorkel AI 担任机器学习工程师，并创办了人工智能初创公司 Claypot AI。她曾在斯坦福大学教授机器学习系统设计课程，是全球人工智能工程领域最具影响力的专家之一。
📒 文字版精华
⏱️ 时间戳
00:00:00 开场白与本期内容概览
AI 工程的定义与嘉宾介绍
00:02:08 AI 工程与传统机器学习工程的区别初探
00:02:49 嘉宾 Chip Huyen 背景介绍
Chip Huyen 的著作《AI Engineering》
00:04:07 书籍的广度与深度及著书心得
00:05:13 著书过程中的大量研究与“体力活”
在快速发展的 AI 领域著书立说
00:07:11 关注基本原理，预判技术趋势 (如RAG、提示工程、上下文长度、多模态)
00:09:36 对提示工程和上下文长度趋势的预判
深入探讨 AI 工程
00:11:11 AI 工程与机器学习工程的差异详解
00:13:23 AI 工程流程：从产品到数据到模型，更侧重产品与工程
构建 AI 应用的核心技术与步骤
00:16:06 AI 系统中传统机器学习组件的重要性 (如路由、分类器)
00:17:47 构建AI应用的常用技术概览
00:18:21 从理解用户需求、制定评估标准到提示工程
00:20:00 RAG 技术详解：不止于向量搜索，传统检索与数据准备的重要性
00:21:50 数据准备的重要性与简单方法的优先
00:24:20 微调的考量与挑战：高成本、维护难度、可能被快速迭代的新模型超越
AI 解决方案的务实方法
00:26:16 结构化方法与渐进式部署，优先开拓新用例
00:27:34 案例：客户服务自动化的典型步骤 (公开渠道、路由优化、人机协作)
00:31:12 避免“万能锤”思维，专注解决实际问题，理解问题本质
应对 AI 浪潮中的 FOMO (错失恐惧症)
00:32:21 科技公司的 FOMO 现象及其正面意义
00:33:15 保持冷静，专注解决核心问题，避免追逐新闻表面
评估 AI 系统的挑战与方法
00:34:41 AI 越智能，评估越困难，人类评估面临瓶颈
00:36:47 评估方法：功能正确性 (如编码)、AI 即评委、比较评估
00:39:29 评估工具的局限性与用户理解的重要性 (案例：会议总结、税务软件)
00:42:01 手动检查数据的价值与持续的人工评估
AI 应用开发中的常见误区
00:44:15 误区一：在不需要时使用生成式 AI (案例：用电优化)
00:45:36 误区二：因简单问题或产品设计不佳而过早放弃 (案例：简历提取)
00:47:12 误区三：初期过度复杂化或滥用抽象层次过高、不成熟的新框架
软件工程师学习 AI 的方法
00:50:48 项目驱动学习与结构化学习的结合
00:52:07 教程学习的风险与提问、深入理解的重要性 (案例：import ibis)
00:54:08 观察自身工作，寻找 AI 应用点，解决个人痛点
AI 对软件工程未来的影响
00:55:27 AI 辅助编码，而非取代问题解决与工程设计
00:58:21 AI 可能助力构建更复杂的软件系统，提升工程师的生产力
AI 的未来应用前景展望
00:59:33 教育领域：培养提问能力，高效学习
00:59:50 娱乐领域：创作更具智力启发性的内容，媒介改编
01:01:33 企业组织结构的变革潜力 (如信息聚合对中层管理的影响)
快问快答与总结
01:02:06 常用编程语言 (Python, JavaScript) 与喜爱的 LLM (视用途而定)
01:03:30 自用 AI 工具 (论文研究助手) 与书籍推荐 (《复杂适应系统》、《自私的基因》、《反脆弱》)
01:05:45 总结与感谢，欢迎反馈
🌟 精彩内容
AI工程新范式: Chip Huyen 阐释了AI工程如何从传统机器学习工程演变而来，强调了从“产品到数据到模型”的流程转变，以及对工程和产品思维的侧重。
构建AI应用的实用路径: 详细拆解了从理解用户需求、提示工程、RAG（检索增强生成）技术的正确应用（强调数据准备和简单检索方法的重要性），到谨慎考虑模型微调的完整开发流程。
AI系统评估的深层挑战: 探讨了AI系统评估的复杂性，介绍了功能正确性、AI即评委、比较评估等方法，并强调了理解用户真实需求和持续人工审查的重要性。
避开常见陷阱: 指出了团队在构建AI应用时易犯的错误，如在不必要时使用AI、因初级问题过早放弃、初期过度复杂化以及盲目采用不成熟的框架。
工程师的AI学习之道: 提供了软件工程师学习AI的建议，倡导项目驱动与结构化学习相结合，鼓励批判性思维，并从自身工作流程中发掘AI应用点。
AI与软件工程的未来: Chip Huyen认为AI将增强而非取代软件工程师，自动化编码的物理行为，使工程师能专注于更复杂的问题解决和系统设计，推动软件向更高复杂度发展。
AI应用前景展望: 分享了对AI在教育（提升学习效率和提问能力）、娱乐（创造有深度的互动内容）以及企业（重塑组织结构，如信息聚合对中层管理的影响）等领域的积极展望。
🌐 播客信息补充
翻译克隆自：AI Engineering with Chip Huyen
本播客采用原有人声声线进行播客音频制作，也可能会有一些地方听起来怪怪的
使用 AI 进行翻译，因此可能会有一些地方不通顺；
如果有后续想要听中文版的其他外文播客，也欢迎联系微信：iEvenight
在本期播客中，Chip Huyen与Gergely Orosz深入探讨了人工智能工程的核心概念，强调了其与传统机器学习工程的区别。Chip Huyen是一位在AI领域颇具影响力的专家，曾在Netflix和Nvidia工作，并在斯坦福大学教授机器学习系统设计。
🔍 AI工程的定义与演变
Chip指出，AI工程不仅仅是机器学习的延续，而是一个更为广泛的领域。过去，构建机器学习应用需要大量的数据和专业知识，但现在，通过API调用，开发者可以轻松接入强大的AI功能，降低了入门门槛。
“关注点从机器学习本身更多地转向了工程和产品。”
🛠️ 构建AI应用的步骤
Chip详细介绍了构建AI应用的典型步骤，包括：
1. 模型选择：选择合适的基础模型。
2. 检索增强生成（RAG）：结合检索和生成技术，提升模型的输出质量。
3. 模型微调：在必要时对模型进行微调，以适应特定任务。
他强调，数据准备和简单的检索方法往往比复杂的向量数据库更为重要。
📊 评估AI系统的挑战
评估AI系统的输出是一个复杂的过程。Chip提到，随着AI的智能化，评估的难度也在增加。传统的评估方法如功能正确性在AI生成的内容中变得不再适用，因为AI的输出可能在表面上看起来非常连贯，但实际上却可能不符合预期。
“评估AI系统的挑战在于，AI越聪明，人类就越难评估它。”
💡 常见误区与建议
Chip分享了在构建AI应用时常见的误区：
• 不必要时使用生成式AI：例如，一家初创公司试图用AI优化电力使用，但简单的线性规划就能解决问题。
• 因产品设计不佳而放弃AI：很多公司在使用AI时未能设计好提示，导致效果不佳。
他建议，团队应专注于理解用户需求，避免盲目追求新技术。
📚 学习AI的路径
对于希望进入AI工程领域的软件工程师，Chip推荐结合项目驱动学习与结构化学习。他强调，理解问题的本质和提问能力是学习的关键。
“选择一个项目，全身心投入去做，同时辅以结构化学习。”
🌟 AI对软件工程的影响
Chip认为，AI将不会取代软件工程师，而是会增强他们的能力。AI可以自动化一些编码工作，使工程师能够专注于更复杂的问题解决和系统设计。
“编码是物理行为，而工程是解决问题的过程。”