泰勒斯威夫特的深度伪造色情影片并不是什么新鲜事，但这并不意味著我们不应该感到担忧。

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X平台前身为Twitter迅速走红后，我们不得不思考：这对于AI的未来意味著什么？

最近，一些AI生成的泰勒斯威夫特的露骨影像在X平台上广泛传播，揭示了AI技术的阴暗面。这些图片据信是使用微软设计工具Microsoft Designer创建的，受到了广泛关注，突显了AI生成假色情内容日益增长的挑战。

随著这些图片迅速在平台上扩散，此事件不仅引发了粉丝和隐私维护者的愤怒，同时也提出了有关如何在媒体创作中伦理使用AI的关键问题。

Avast的威胁情报主任Michal Salt在这个及时的讨论中提供了丰富的知识和专业见解。Salt关注技术、安全和伦理之间的交集，并就AI生成内容的影响提供了深入的见解。

在接下来的部分中，我们将探讨他的观点，考察图像操控的历史并行性、AI能力所提出的伦理困境，以及在日益受到AI驱动的世界中，数位信任和安全的更广泛影响。

假色情并不是新问题

Salt将目前AI生成逼真图像的能力与过去的Photoshop使用进行了比较。就像Photoshop在几年前彻底改变了图像处理，AI现在也使得创建现实图像变得更为简单。然而，操纵图像的概念并不新鲜；AI只是这场持续斗争中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软件，”他解释道，强调操纵图像的概念十多年来一直令人担忧。现在的关键区别在于AI技术带来的便利性和可获得性。这一转变引发了关于社会如何适应和规范这些新的工具的重要问题，因为这些工具使创建逼真图像比以往任何时候都来得容易。

AI与露骨内容的伦理困境

当前最紧迫的问题之一是使用AI生成露骨影像的道德含义，特别是针对特定个体而未经其同意。虽然生成普通的裸体图像可能不会引发太多伦理问题，但真正的问题在于创建具识别性人物的露骨影像的方便性。

“AI生成的色情内容本身可能并没什么内在的错误或伦理问题，”Salt说。“但对我而言，伦理问题在于你可以相对轻易地产生一幅带有已知或特定面孔的图像。”

这种能力不仅限于泰勒斯威夫特等名人，还可能针对任何人，强调了制定伦理准则和立法的必要性：所谓的“报复色情”或未经同意分享的裸体图片目前在48个州是违法的，而AI生成的深伪色情内容目前仅在10个州被禁止。这反差突显了立法需追赶技术进步的必要性。更多信息在这里

AI公司如何防止深伪色情的生成？

也许是因为生成性AI的普及相对较新，现在针对未经主体同意创建露骨内容的法律约束相对较少。然而，Salt认为，对于AI公司而言，实施这些限制并不会很困难：例如，禁止生成特定人物的图像或不允许客户提交的图片作为资料来源，便可为绝大多数人提供足够的障碍。

“当然，还是有些人能够突破这些限制，迫使模型做一些它本不应该做的事情，”Salt表示。“在我看来，目前几乎无法完全避免这个问题只能让它变得更艰难。我想说的是，提供这些服务的公司应该更加努力去避免这一情况。”

也有可能有人会创建自己的色情生成模型，而不设任何限制。不过，Salt指出，即使可行，也需要大量的技术知识和计算能力。

“能够自己创造生成裸体的AI的人并不多，”Salt说。“因此，这与使用Photoshop更为相似，你需要具备一定的技能才能做到这一点。”

Salt将当前AI开发的状态与安全行业的演变进行了比较。他观察到，我们正目睹安全行业在AI领域“重新开始”。这一类比突显了将AI开发视为一个持续过程的重要性，在这个过程中，识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X平台上的AI生成图片强调了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量及安全措施将是至关重要的。透过向像Michal Salt这样的专家学习并反思过去的挑战，我们可以更有见识和谨慎地在这个复杂的领域中进行探索。