泰勒斯威夫特的深伪色情作品并不新鲜但这并不意味著我们不应该警觉。

Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X平台前身是Twitter疯狂传播后，我们不禁要问：这对AI的未来意味著什么？

在最近令人不安的事件中，AI生成的著名歌手泰勒斯威夫特的明确图片已在社交媒体上泛滥，显示了AI能力更黑暗的一面。这些图片据信是使用微软设计软体创建的，迅速引起了广泛的关注，并突显了AI生成假色情内容日益增长的挑战。

随著这些图片在平台上迅速扩散，这一事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt为这场及时的讨论带来了丰富的知识和专业技术。凭借对技术、安全和伦理交集的深刻洞察，萨拉特对AI生成内容的影响提供了细致的见解。

在接下来的部分中，我们将深入探讨他的见解，包括图像操控的历史类比、AI能力所带来的伦理困境，以及在日益AI驱动的世界中对数字信任和安全的更广泛影响。

假色情内容并不是新问题

萨拉特将目前AI生成逼真图像的能力与过去Photoshop的使用进行了比较。就像Photoshop在多年以前彻底改变了图像操控一样，AI现在显著简化了生成真实图像的过程。然而，操控图像的概念并不新颖；AI只是这一过程中的最新工具。

“这在某种程度上只是另一种照片编辑软体，”他解释道，强调操控图像的问题已经困扰了我们十多年。现在的关键差异在于AI技术带来的便利性和可得性。这一转变引发了关于社会如何适应和规范这些新工具的重要问题，因为这些工具让创建真实图像变得前所未有的简单。

AI与露骨内容的伦理困境

最令人关注的问题之一是使用AI生成露骨图像的伦理含义，尤其是针对未经当事人同意的特定个体。虽然生成一般的裸体图像可能不会引起太多伦理问题，但当涉及到易于生成可识别人物的露骨图像时，真正的问题就出现了。

“就我而言，AI生成色情内容本身并没有什么内在的错误或伦理问题，”萨拉特表示。“但对我来说，伦理问题在于你可以相对轻松地生成一个有已知或特定面孔的图像。”

这一能力不仅适用于像泰勒斯威夫特这样的名人，甚至可能适用于任何人，强调了制定伦理指导方针和立法的必要性：虽然所谓的“报复色情”或非自愿分享裸体在48个州已经非法化，AI生成的深伪色情目前仅在10个州被禁止，这明显显示出立法与技术之间的差距。

AI公司如何防止深伪色情的生成？

也许因为对生成性AI的接触相对较新，因此在未经主体同意的情况下创建露骨内容的防护措施不多。然而，根据萨拉特的说法，对AI公司而言，实施这些措施并不会太困难：只要不允许生成特定人物的图像或使用客户提交的图片作为资料来源，就可以为绝大多数人提供足够的屏障。

“当然，有些人能够突破这些限制，逼迫模型做一些不应该做的事情，”萨拉特说。“我认为，现阶段几乎无法完全避免这种情况只能让它变得更难。我试图表达的观点是，提供这些服务的公司应该更努力地去避免这种情况。”

还有可能有人创建没有任何限制的色情生成模型。然而萨拉特指出，尽管这是可能的，但创建这样的模型需要大量的技术知识和计算能力。

“并不是很多人能够自行创建能生成裸体图片的AI，”萨拉特表示。“所以，这更像是使用Photoshop，你需要具备一定的技能才能做到。”

萨拉特还将目前AI开发的状态与安全行业的演变进行了比较。他观察到，我们正在见证安全行业“从零开始面对AI”。这一对比强调了将AI开发视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是技术成熟的关键。

AI生成的泰勒斯威夫特图片在X平台上的出现凸显了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考量和安全措施之间取得平衡将至关重要。通过向米哈尔萨拉特等专家学习并反思过去的挑战，我们可以更有信息和更谨慎地导航这一复杂的领域。