46
2🎧 本期介绍
AI生成了错误信息，导致用户遭受损失，平台需要承担责任吗？如果AI已经提醒用户“我的回答可能有误”，是否就意味着可以免责？而当我们要求人类监督AI时，人真的有能力发现和纠正AI的错误吗？
近期，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》，为人工智能训练、产品责任等争议问题提供了新的司法指引。
本期 Arlene和Chandy从AI的生命周期出发，围绕三个话题进行讨论：
一、AI训练：公开数据可以随便爬取吗？
从中国最新司法意见出发，讨论企业利用网络公开个人信息进行模型训练的合法性边界，并对比新加坡、韩国在AI训练数据使用方面的监管思路。
二、AI造成损害：产品责任还是服务责任？
结合杭州互联网法院生成式AI“幻觉”侵权案件，讨论中国如何认定生成式AI的法律属性，以及欧盟新版《产品责任指令》为何将软件纳入产品范围。面对AI生成的错误信息，中欧在责任认定和缺陷判断上有哪些不同？
三、人类监督：有人把关就够了吗？
从欧盟《人工智能法案》对高风险AI系统的人类监督要求，聊到新加坡针对AI Agent的治理框架。当AI越来越复杂，人类是否有足够的能力、时间和权限纠正AI？企业又该如何避免人类监督沦为机械地点击“同意”？
注：本期因为网络问题，某些地方音质不好，还请朋友们见谅。另外，本期由于时间限制，实属浅聊，有任何问题，欢迎评论区讨论/指正。
⏱️ 时间轴
00:00 开场：最高法发布涉人工智能纠纷案件审理意见，我们想聊哪些问题？
02:26 AI训练数据从哪里来？网络公开的个人信息可以直接爬取并用于模型训练吗？
08:33 新加坡与韩国的监管观察：如何在个人信息保护与AI训练需求之间寻找平衡？
12:15 从训练走向应用：AI究竟是产品还是服务，为什么这一认定会影响责任承担？
15:27 杭州AI“幻觉”侵权案：Chatbot提供错误信息，平台需要赔偿吗？
18:52 中欧产品责任制度对比：欧盟将软件纳入产品范围，但AI生成的错误信息是否等于产品存在缺陷？
23:04 平台的注意义务与免责提示：完成备案、提示用户AI可能出错，是否足以免除责任？
29:13 有效的人类监督如何实现？从欧盟AI Act到新加坡AI Agent治理框架，讨论监督者的能力、权限、自动化偏见与责任追溯。
