S8E03 | 后 Sora 时代的深度伪造 「AI换脸术」怎么防?

S8E03 | 后 Sora 时代的深度伪造 「AI换脸术」怎么防?

38分钟 ·
播放数9339
·
评论数27

继 Open AI 发布了视频生成模型 Sora 之后,Google 最近又发布了 Vlogger,一个能通过一张照片生成 10 秒视频的模型。在我们惊叹 AIGC 技术快速发展的同时,网络黑产的攻击也依托技术迭代爆发式提效。自去年以来,线上深度伪造(Deepfake)技术攻击案例指数级上升,特别是在东南亚等基础设施与监管薄弱的地区,案发占比由不到百分之零点五飙升至五。

本期节目我们邀请到蚂蚁数科 ZOLOZ 的技术负责人姚伟斌(文景)来聊聊后 Sora 时代下我们普通人如何能够降低被攻击的风险,整个行业在 Sora 这样的产品出来之后,从产品层面他们是如何快速响应去设计新的产品,从行业角度来看,需要有什么共识才能避免痛定思痛以及未来的加密学在生物识别领域的调整与走向。

本期人物
姚伟斌(文景),蚂蚁数科 ZOLOZ 技术负责人
丁教 Diane,「声动活泼」联合创始人、「科技早知道」主播

主要话题
04:18 Deepfake 深度伪造技术攻击案例与前两年相比数量呈指数型上升
06:53 个体消费者如何防范应用深度伪造技术的骗局?
09:53 警觉经济利益涉及,设置特定安全口令
10:46 重视日常风险的分散与备份
13:00 除人脸识别外「异军突起」的生物识别特征
18:39 当下处于加密学「道高一尺魔高一丈」的对抗阶段吗?
20:18 东南亚的防黑产技术类似中国 5 到 10 年前的数字化发展阶段
21:18 黑产攻击也在「数字化升级改造」
23:43 首先我们要理解黑产攻击的利益诉求
24:45 快捷体验与身份安全是一个相对矛盾的点
27:08 后 Sora 时代下 ZOLOZ 与防 Deepfake 黑产行业的共识和技术进步
28:40 挖掘批量化攻击背后的共性以快速响应
30:26 提倡政企合作建立可信签名机制
31:12 ZOLOZ 建立的端云一体全链路防控体系
34:02 如何预防开源模型被不法分子利用
34:48 从 Cheapfake 到 Deepfake,ZOLOZ 2019 年开始的深度伪造技术研究

幕后制作
监制:丁教、Siti
后期:迪卡普里鑫,可特
运营:瑞涵
设计:饭团

商务合作
声动活泼商务合作咨询

支持我们,加入新一年的播客创新
2021 年我们发起了「声动胡同会员计划」,这是一个纯支持项目,支持「声动活泼」在播客内容上不断探索和创新。回顾 2023 年,得益于这些支持,「声动活泼」的每档节目都不断突破,不仅荣登苹果中国的年度热门节目榜单,还在 CPA 和喜马拉雅等平台都榜上有名。2024 年,我们也会继续创新,一档全新的投资类节目即将和大家见面,同时也会用更加创新的方式制作新一季「声音特稿」节目。
欢迎点击链接查看我们 2023 年收获和 2024 年内容计划。如果你认同或喜欢我们做的事情,也期待我们不断尝试并产生好内容,欢迎付费支持。
胡同

加入我们
声动活泼正在招聘全职「节目监制」、「节目营销」、「商业化项目管理」,查看详细讯息请 点击链接。如果你已准备好简历,欢迎发送至 hr@shengfm.cn, 标题请用:姓名+岗位名称。

关于声动活泼
「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。
我们还有这些播客:声动早咖啡声东击西吃喝玩乐了不起反潮流俱乐部泡腾 VC商业WHY酱跳进兔子洞
欢迎在即刻、微博等社交媒体上与我们互动,搜索 声动活泼 即可找到我们。
期待你给我们写邮件,邮箱地址是:ting@sheng.fm

欢迎扫码添加声小音,在节目之外和我们保持联系。
声小音

Special Guest: 姚伟斌(文景).

展开Show Notes
beibie
beibie
2024.4.17
回去就跟爸妈搞个暗号
丁教Diane
:
对,和买保险一样,别拖
Jolin_乔琳
Jolin_乔琳
2024.4.17
原来人脸验证的闪光居然是用来保护我们的!!
丁教Diane
:
我也才意识到😂
是迦棋呀
是迦棋呀
2024.4.18
学习了!!随着ai 的发展,对ai 生成和伪造的判断能力越来越重要,期待这样专业的产品可以提供更多的保护。
beibie
beibie
2024.4.17
原来多彩炫光是这样用的
LBeP
LBeP
2024.4.21
上期的评论在播客里被提到了,有点小惊喜,感谢主播~。Deep fake这类东西,当年出来的时候我还挣扎一下,删掉了一些社交媒体上的照片甚至一些社交媒体账号。不过现在已经“躺平”了,个人信息到处都是,防不住,接受现实考虑怎么跟这类技术共存了。
😰倒逼人类进化了属于是
丁教Diane
:
我觉得是倒逼我们眼见为实已经不存在了
欢乐马A氏:是的,但是从信息的确认层面来说也算一种进化吧
这期嘉宾还讲了蛮多关于AI维度渗透和预防知识的,很棒!
33:53 屏幕闪光这个知识点第一次听说,长知识了。
SimonDD
SimonDD
2024.4.21
20:34 注意安全
momo_alke
momo_alke
2024.4.21
我觉得自己发的照片视频是一方面,还有各种公共场所莫名被拍的场景,特别是现在自媒体时代,不知道啥时候就被拍了,也是一个危险因素吧
SkyVibe
SkyVibe
2024.4.20
09:56 相信自己
Ming_Stacey
Ming_Stacey
2024.4.18
真是巧了,前两天还在听AI data wall & ssh backdoor bug,这就来听科技早知道人脸识别了……互联网,真的没有秘密吗
24:45 把财务拉到都是假人的会议里 听着特像都市传说 但这么荒谬的事情居然是真的😂
18:28 对抗技术!咱不说用魔法打败魔法 咱就说用魔法保护魔法
DX3906_M
DX3906_M
2024.4.19
太水了这期
10:47 啊 又上了一课!自我保护从了解科技开始💰🥹
Dicaprixin
Dicaprixin
2024.4.18
终于知道每次人脸检测时候的颜色闪动是啥意思了
Dicaprixin
Dicaprixin
2024.4.18
可怕,而且个人社交网络图片太多了,删都删不完
荷埃迪
荷埃迪
2024.4.18
互联网默认全裸,是裸到表皮层还是真皮层的区别
肖恩小杨
肖恩小杨
2024.4.17
04:46 AI换脸都算是古早技术了,只能说Sora出现后,假得越来越真了
丁教Diane
:
主要是成本降低和大幅度提效,就很可怕了