Emma McGowan 2024年1月30日

在泰勒斯威夫特的AI生成色情图片在X前身为Twitter上引起广泛关注后，我们不禁要问：这对未来的AI意味著什么？

最近，一些AI生成的泰勒斯威夫特的露骨图片在X平台上疯传，揭示了AI能力的阴暗面。这些图片据信是使用Microsoft Designer创建的，迅速引起了广泛的注意，并凸显了AI生成伪造色情作品日益严重的挑战。

随著这些图片迅速在平台上扩散，这一事件不仅引发了粉丝和隐私权倡导者的愤怒，还提出了关于AI在媒体创作中的伦理使用的关键问题。

Avast的威胁情报总监Michal Salt在这一及时话题上带来了丰富的知识和专业见解。他敏锐地关注技术、安全和伦理的交集，对AI生成内容的影响提供了深刻的观点。

在接下来的部分中，我们将深入探讨他的见解，探讨图像处理的历史类比、AI能力所呈现的伦理困境，以及在我们愈加依赖AI的世界中数位信任和安全的更广泛影响。

假色情并不新鲜

Salt将AI当前生成栩栩如生的图片的能力与过去使用Photoshop的情况进行比较。就像Photoshop多年前革命性地改变了图像处理一样，AI现在也大幅简化了创建逼真图片的过程。然而，操纵图片的概念并不新鲜；AI只是这一持续剧情中的最新工具。

“这某种程度上只是另一种照片编辑软体，”他解释道，强调操纵图片的概念已经存在十多年了。现在的主要区别在于AI技术带来的便利性和可获得性。这一变化引发了社会如何适应并规范这些新工具的重要问题，而这些工具使得创造逼真图片变得前所未有的简单。

AI与露骨内容的伦理困境

当前最大的担忧之一是利用AI生成露骨图片，尤其是针对特定个体而未经其同意的伦理问题。尽管生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于为已知或特定面孔轻易生成露骨图片的能力。

“AI生成色情内容本身可能并不具有固有的错误或伦理问题，”Salt表示。“但对我来说，伦理问题在于可以相对容易地生成带有已知或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能波及任何人，强调了制定伦理指导原则和立法的必要性：虽然所谓的“报复色情”或不经同意分享的裸体图片在48个州都是非法的，但AI生成的深Fake色情作品目前仅在10个州被禁止。这一显著差异强调了立法需要赶上技术的需求。

AI公司如何防止深Fake色情的创建？

或许因为生成AI的使用相对较新，针对未经该主体同意而创建露骨内容的限制机制很少。然而，Salt认为，对于AI公司来说，实施这些措施并不会太难：例如，禁止生成特定人物的图片或使用客户提交的图片作为素材，就能为绝大多数人提供足够的屏障。

“当然，有些人可以突破限制，迫使模型做一些不应该做的事，”Salt说。“我认为，目前几乎不可能完全避免这一点你只能让它变得更加困难。我想表达的观点是，提供这些服务的公司应该更努力地避免这种情况发生。”

还有可能有人自己创建不受限制的色情生成模型。然而，Salt指出，尽管这在技术上是可行的，但需要大量的技术知识和大量的计算能力。

“能够自己创建生成裸体的AI的人并不多，”Salt表示。“所以，这会更像是使用Photoshop，需要具备一定的技能才能做到。”

Salt还将当前的AI发展状况与安全行业的演变进行了比较。他观察到，AI技术的崛起正在迫使安全行业“重新开始”。这一比较强调了将AI开发视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X上的AI生成图片凸显了负责任使用AI的重要性。随著AI的持续发展，平衡技术能力与伦理考量以及安全措施将至关重要。通过向Michal Salt等专家学习并反思过去的挑战，我们可以以更具知识性和谨慎的方式导航这一复杂的领域。