艾玛麦克戈恩 (Emma McGowan) 2024年1月30日

在泰勒斯威夫特 (Taylor Swift) 的AI生成色情图片在X平台前身为Twitter迅速引发关注后，我们不禁要思考：这对AI的未来意味著什么？

最近出现的不安事件中，AI生成的泰勒斯威夫特的露骨图片充斥著X平台，显示了AI能力的阴暗面。这些图片据信是使用微软设计工具创建的，迅速引起广泛关注，也突显了AI生成假色情作品日益严重的挑战。

随著这些图片在平台上快速传播，这一事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中伦理使用的重大问题。

Avast的威胁情报总监米哈伊萨拉特Michal Salt在这一适时的讨论中，带来了丰富的知识和专业见解。萨拉特聚焦于科技、安全和伦理的交集，提供了对AI生成内容的影响的深刻见解。

在接下来的部分中，我们将深入探讨他的见解，回顾影像操纵的历史平行现象、AI能力带来的伦理困境，以及在日益依赖AI的世界中对数位信任和安全的更广泛影响。

假色情不再是新问题

萨拉特将当前AI生成逼真图片的能力与过去Photoshop的使用相比较。正如Photoshop曾经彻底改变图片操作一样，AI现在使创建现实图片变得更加容易。然而，操纵图片的概念并不新鲜；AI只是这个不断发展故事中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释道，强调操纵图像的概念已有超过十年的历史。现在的主要区别是AI技术带来的便利性和可获得性。这一转变引发了人们关于社会如何适应和规范这些新工具的重要问题，因为它们使得创建逼真图片比以往任何时候都更容易。

AI与露骨内容的伦理困境

最紧迫的问题之一是使用AI生成露骨图片，特别是针对无法同意的特定个体的伦理问题。虽然生成普通的裸体图片可能不引发太多道德质疑，但真正的问题在于轻易地生成特定人的露骨图片。

“AI生成的色情本身可能并不带有固有的错误或伦理问题，”萨拉特说。“但对我来说，伦理问题在于你可以相对容易地生成一张具有已知或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能延伸至任何人，强调了需要伦理指导和立法的必要性：所谓的“报复色情”或非自愿分享裸体照片在48个州是违法的，而AI生成的深伪色情目前只有在10个州被禁止。这一显著差异凸显了立法跟不上技术发展的必要性。

AI公司如何防止深伪色情的产生？

也许由于生成性AI的接触仍然是个相对较新的现象，目前对于在未经主体同意的情况下创建露骨内容的防护措施还非常有限。不过，萨拉特指出，对于AI公司来说，实施这些防护措施并不会太困难：例如，禁止生成特定人的图片或使用客户提交的图片作为素材，将为大多数人提供足够的障碍。

“当然，一些人能够突破这些限制，迫使模型做它不应该做的事，”萨拉特说。“目前来看，这几乎是无法完全避免的你只能让它更困难。我想说的是，提供这些服务的公司应该更加努力地避免这种情况。”

还有一种可能性就是某人创建自己的生成色情模型，而没有任何限制。不过，萨拉特指出，即使这样做是可能的，却需要极大的技术知识和计算能力。

“能够自己创建一个生成裸体的AI的人不多，”萨拉特说。“所以，这更像是在使用Photoshop的情况，你需要具备一定水平的技能才能做到。”

萨拉特将当前AI发展的状态与安全行业的演变进行比较。他观察到，安全行业正在“重新开始AI的运用”。这一比较强调了将AI发展视为一个持续过程的必要性，在这一过程中，识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X平台上的AI生成图片凸显了责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量和安全措施将至关重要。透过向像米哈伊萨拉特这样的专家学习，并反思过去的挑战，我们能够以更加知识丰富且谨慎的方式应对这个复杂的领域。