人工智能（AI）和深度伪造（deepfake）的阴暗面

本TEDx演讲主要探讨了人工智能（AI）和深度伪造（deepfake）的阴暗面，将其比作一把既能做好事也能作恶的工具。演讲者马蒂·霍夫曼（Marty Hoffman）作为一名犯罪分析师和商业心理学家，通过与黑客直接接触，揭示了网络犯罪是一个价值数万亿美元的全球性产业，并强调了勒索软件是其主要商业模式。他解释了AI模型输出质量受训练数据影响的原理，以及黑客如何利用反向心理学、越狱提示词甚至开发专属AI模型来规避AI安全限制。此外，演讲还详细阐述了深度伪造技术在短时间内克隆人脸和声音的能力，并指出其对个人隐私、政治宣传和金融欺诈的潜在威胁，最后提出通过普及网络安全知识和家庭安全提问来应对这些挑战。