泰勒斯威夫特的深度假冒色情影片并不新鲜但这并不意味著我们不应该感到担忧。
艾玛麦戈文 2024年1月30日
随著泰勒斯威夫特的人工智能生成色情图片在X平台上迅速走红,我们不禁思考:这对人工智能的未来意味著什么?
近期,一组由AI生成的 露骨图像 在X前身为推特上引发了不安的关注,揭示了人工智能能力的黑暗面。这些图片据信是使用微软设计工具创建的,迅速引起了广泛的关注,突显了人工智能生成假色情内容的日益严峻挑战。
随著这些图片在平台上迅速扩散,此事件不仅引发了粉丝和隐私倡导者的愤怒,也提出了有关人工智能在媒体创作中的伦理使用的重要问题。
Avast的威胁情报总监米哈伊萨拉特在这场及时的讨论中提供了丰富的知识和专业意见。他专注于科技、安全和伦理的交集,对人工智能生成内容的影响提供了深入的见解。
在接下来的部分中,我们将探讨他的见解,包括图像操控的历史平行、人工智能能力所带来的伦理困境,以及在日益依赖人工智能的世界中对数字信任和安全的更广泛影响。
假色情并不是新问题
萨拉特将当前人工智能生成逼真图像的能力与过去的Photoshop使用进行了比较。正如Photoshop在多年前彻底改变了图像处理,人工智能如今使得创建逼真图像变得更加容易。然而,操纵图像的概念并不新鲜;人工智能只是这场持续剧情中的最新工具。
“某种程度上,这只是一种不同的照片编辑软件,”他解释道,强调操纵图像的概念在十多年来一直令人关注。现在的关键区别在于,人工智能技术带来了便利性和可接触性。这种变化引发了重要问题:社会如何适应和规范这些新工具,因为它们使得创建逼真图像变得前所未有的容易。
人工智能与露骨内容的伦理困境
最迫切的问题之一是使用人工智能生成露骨图像的伦理意涵,特别是对特定个体在未经其同意的情况下。虽然生成一般的裸体图像可能不会引起太多伦理上的质疑,但真正的问题在于,轻而易举地生成特定可识别人物的露骨图像。
“使用AI生成色情内容本身并不一定有问题,”萨拉特说。“但至少在我看来,伦理问题是你可以相对容易地生成一张带有已知或特定面孔的图像。”
这种能力不仅限于像泰勒斯威夫特这样的名人,还可能针对任何人,强调了对伦理准则和立法的需求:虽然所谓的“复仇色情”或非自愿分享裸体照片在48个州是 非法的,但目前AI生成的深伪色情在只有10个州被禁止。这一鲜明的差异强调了立法需要快速跟上技术的步伐。 详情请见此处
白鲸加速器app人工智能公司如何防止深伪色情的产生?
或许因为生成性人工智能的使用相对较新,因此针对未经同意的露骨内容创建的安全措施仍然有限。然而,萨拉特认为,为人工智能公司落实这些措施并不会很困难:例如不允许某些特定人物的图像生成,或是不使用客户提交的图像作为素材,将为绝大多数人提供足够的屏障。
“当然,有些人会能够突破限制,强迫模型做一些不应该做的事情,”萨拉特说。“我认为,现在几乎不可能完全避免这种情况你只能让它变得更困难。我想强调的观点是,提供这些服务的公司应该更加努力地去避免这种情况的发生。”
还存在著有人自己创建没有任何限制的色情生成模型的可能性。不过,萨拉特指出,尽管这是可能的,但需要 大量 的技术知识和 大量 的计算能力才能做到。
“并不是很多人能够自己创建一个用于生成裸体图像的人工智能,”萨拉特说。“因此,这更像是使用Photoshop,你需要具备一定的技能水平才能做到。”
萨拉特将当前的人工智能发展状况与安全行业的演变进行了类比。他指出,我们正在目睹安全行业在人工智能的刺激下“重新开始”。这种比较突显了将人工智能发展视为一个持续过程的重要性,识别和修复漏洞是推进技术成熟的关键。
在X平台上出现的有关泰勒斯威夫特的AI生成图片,强调了负责任地使用人工智能的重要性。随著人工智能的持续进步,平衡技术能力与伦理考量及安全措施将变得至关重要。通过向像米哈伊萨拉特这样的专家学习,并反思过去的挑战,我们可以以更明智、更谨慎的方式应对这一复杂的领域。