泰勒斯威夫特Taylor Swift的深伪色情影片并不新鲜但这并不意味著我们不应该感到担忧

Emma McGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X平台上迅速走红，我们不禁要问：这对AI的未来意味著什么？

近期，AI生成的泰勒斯威夫特明确图像在X平台原名Twitter上引起广泛关注，显示了AI能力的阴暗面。这些图片据信是使用Microsoft Designer创建的，突显了AI生成的假色情内容日益严重的挑战。

随著这些图片迅速在平台上蔓延，事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了关于AI在媒体创作中的道德使用的重大问题。

Avast威胁情报总监米哈尔萨拉特Michal Salt对这一时事有著丰富的知识和专业背景。他关注技术、安全和伦理之间的交汇点，提供了对AI生成内容影响的细致见解。

在接下来的部分中，我们将深入探讨他的观点，探讨图像操控的历史类比，AI能力所带来的道德困境，以及在日益依赖AI的世界中，数位信任和安全的更广泛影响。

假色情并不是新问题

萨拉特将AI生成栩栩如生的图片的当前能力与过去使用Photoshop的情况进行比较。就像Photoshop几年前彻底改变了图像操控一样，现在AI使创建真实的图片变得简单得多。然而，操控图片的概念并不是新的；AI只是这一持续剧情中的最新工具。

“在某种程度上，这只是另一种照片编辑软体，”他解释道，强调操控图片的概念已经存在十多年。现在的关键区别在于，AI技术带来了更大的便捷性和可及性。这一变化引发了社会如何适应和监管这些新工具的重要问题，因为这些工具使得创建现实图片变得比以往任何时候都要简单。

AI与明确内容的道德困境

当前最迫切的忧虑之一是，使用AI生成明确图片的道德含义，特别是针对特定个体未经其同意的情况。虽然生成普通裸体图片可能不会引发太多道德问题，但真正的问题在于轻易生成可识别人的明确图片。

“AI生成的色情内容本身可能没有固有的错误或道德问题，”萨拉特表示，“但对我来说，伦理的问题是，你可以相对容易地生成带有已知或特定面孔的图片。”

这一能力不仅限于泰勒斯威夫特等名人，还可能延伸到任何人，强调了道德准则和立法的必要性：虽然所谓的“报复色情”或非自愿分享裸体在48个州是违法的，AI生成的假冒色情目前仅在10个州被禁止。这种强烈的对比突显了法律滞后于技术的必要性。

AI公司如何防止深伪色情的创建？

也许是因为接触生成AI是一种相对新的现象，因此在未经对象同意的情况下创建明确内容的保护措施几乎不存在。然而，萨拉特表示，实施这些措施对于AI公司来说并不困难：不允许生成特定人物的图片，或使用客户提交的图片作为素材，将为绝大多数人提供足够的障碍。

“当然，有些人能够突破限制，强迫模型做一些它不应该做的事情，”萨拉特说。“我看到的情况是，目前几乎不可能完全避免这一点你只能让它变得更加困难。我想强调的是，提供这些服务的公司应该更加努力去避免这些问题。”

还存在某人创建自己的无限制的色情生成模型的可能。然而，萨拉特指出，即使很有可能，但需要大量的技术知识和大量的计算能力才能实现。

“并不是很多人能够自己创建生成裸体的AI，”萨拉特表示。“因此，这更类似于使用Photoshop，你需要有一定的技能才能做到这一点。”

萨拉特将当前的AI开发状态与安全行业的演变进行了比较。他观察到，我们正在见证安全行业“从零开始”进行AI开发。这个比较强调了将AI开发视为一个持续过程的重要性，在这个过程中，识别和修复漏洞是技术成熟的关键。

在X平台上泰勒斯威夫特的AI生成图片突显了负责任使用AI的重要性。随著AI技术的持续进步，在技术能力、伦理考量和安全措施之间取得平衡将至关重要。通过向像米哈尔萨拉特这样的专家学习并反思过去的挑战，我们可以以更具资讯性和理智的方式驾驭这一复杂的格局。