泰勒斯威夫特的假身色情影片并不新鲜但这并不意味著我们不应该担心。
Emma McGowan 2024年1月30日
随著AI生成的泰勒斯威夫特色情图片在X前身为Twitter上迅速走红,我们不禁构思:这对AI的未来意味著什么?
在最近令人不安的事件中,AI生成的泰勒斯威夫特的露骨图片充斥著X,揭示了AI能力的黑暗面。这些图片据信是使用Microsoft Designer创作的,迅速引发广泛关注,凸显了AI生成假色情内容日益增长的挑战。
随著这些图片在平台上迅速传播,此事件不仅引发了粉丝和隐私维护者的愤怒,也提出了关于在媒体创作中道德使用AI的重大问题。
Avast威胁情报总监Michal Salt在这次及时的讨论中提供了丰富的知识和专业见解。他专注于技术、安全和伦理的交叉点,为AI生成内容的影响提供了深刻的视角。
在接下来的部分中,我们将深入探索他的见解,探讨图像操控的历史平行性、AI能力带来的伦理困境,以及在日益受到AI驱动的世界中数位信任与安全的更广泛含义。
假色情内容并不是新问题
Salt将当前AI生成逼真图片的能力与过去使用Photoshop的情况相比较。就像Photoshop曾彻底改变了图片处理一样,如今AI使得创建现实主义图片变得更加简单。然而,操控图像的概念并不新颖;AI只是这场持续斗争中的最新工具。
“这在某种程度上只是一种新的照片编辑软件,”他解释道,强调操控图像的问题已经存在了十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了人们对社会如何适应和规范这些新工具的重大思考,因为这些工具使得创建逼真的图片比以往任何时候都要容易。
AI与露骨内容的伦理困境
当前最迫切的担忧之一是使用AI生成露骨图片的伦理含义,特别是未经个人同意的特定个体的图片。虽然生成通用的裸体图片可能不会引发太多道德问题,但关键问题在于创建特定可识别人物的露骨图片的容易程度。
“对于AI生成的色情图片可能没有什么固有的问题或伦理上的争议,”Salt说。“但问题在于,你可以相对容易地生成带有已知或特定脸谱的图片。”
这种能力的影响不仅限于像泰勒斯威夫特这样的名人,还可能扩展到任何人,这强调了需要建立伦理指导和立法的必要性。虽然所谓的“报复色情”或非自愿分享裸体在48个州都是非法的,但AI生成的深伪色情目前仅在10个州被禁止。这一明显差异凸显了立法需要与技术保持同步。
AI公司如何防止深伪色情的创作?
或许由于生成AI的接入还相对较新,围绕创作未经主体允许的露骨内容的保护措施仍然很少。然而,Salt表示,对AI公司来说,实施这些措施并不会非常困难:例如,不允许针对特定人物创造图片,或使用客户提交的图片作为素材,这将为绝大多数人提供足够的防护。
“当然,一些人会找到方法逃避限制,迫使模型执行不应该做的事情,”Salt说。“我认为目前几乎不可能避免这种情况你只能让这变得更难。我想说的是,提供这些服务的公司应该更努力地避免这种情况。”
黑洞加速器app此外,还有可能有人创建自己没有任何限制的色情生成模型。然而,Salt指出,尽管这是可能的,但需要相当高的技术知识和大量的计算能力。
“能够自己创建生成裸体的AI的人并不多,”Salt说。“所以这更像是在使用Photoshop,你需要有一定的技能才能做到。”
Salt将当前AI开发的状态与安全行业的演变作比较。他观察到,我们正在目睹安全行业“随著AI重启”。这一比较突显了将AI开发视为一个持续过程的重要性,在这个过程中识别和修复漏洞是技术成熟的关键。
在X上出现的泰勒斯威夫特AI生成图片突显了负责任使用AI的重要性。随著AI的持续进步,在技术能力与伦理考量和安全措施之间取得平衡将至关重要。通过向Michal Salt等专家学习并反思过去的挑战,我们可以以更加知情和谨慎的方式来应对这一复杂局面。
揭示AI智能聊天机器人背后的真相
Emma McGowan 2024年2月14日Mozilla最近的一份报告指出,浪漫AI聊天机器人的爆炸式增长引发了诸多隐私问题。自1960年代以来,AI浪漫伴侣就在流行文化中属于一个热话题。从《我生...
灵活计费现在可以在 Avast 商业中心的 MSPs 中使用。
Jan Mazal 2024年3月19日 我们的新计费选项和最新的合作伙伴更新概述我们很高兴地宣布,为使用我们云管理平台的多公司合作伙伴版本Avast Business Hub 的托管服务提供商MSP...