揭示AI智能聊天机器人背后的真相

• 2024-12-26 15:26:58

Emma McGowan 2024年2月14日

Mozilla最近的一份报告指出，浪漫AI聊天机器人的爆炸式增长引发了诸多隐私问题。

自1960年代以来，AI浪漫伴侣就在流行文化中属于一个热话题。从《我生活的玩偶》中如“Rhoda Miller”这样的全机械人，到2013年《她》中斯嘉丽约翰逊所配音的无形声音，我们几代人一直在梦想著人工智慧能满足我们的所有情感需求。而现在，随著生成型AI的发展与发行，这个梦想似乎终于要变成现实。

但这真的是梦想吗？还是我们正无意中走向隐私噩梦？这正是Mozilla研究团队在其最近的隐私未包含专题报告所探讨的问题。

报告结果令人震惊，参测的11个聊天机器人中有10个未能达到Mozilla的最低安全标准。这意味著，它们不要求用户创建强密码，或没有应对任何安全漏洞的措施。随著在Google Play商店的下载量超过1亿，OpenAI的应用商店最近也出现了大量浪漫聊天机器人，这个庞大的问题只会愈演愈烈。

不过，报告不仅仅是数据；它还涉及这些发现可能带来的重大隐私影响。以Replika AI为例。根据Mozilla的说法，人们在这个应用上与他们的“AI灵魂伴侣”分享著最私密的想法、感情、照片和视频，而该应用不仅记录这些资讯，还可能会将其出售给数据经纪人。它甚至允许用户使用如111111这样的弱密码注册账户，这使得所有敏感信息面临遭到黑客攻击的风险。

Calder指出，尽管这些隐私和安全缺陷已经令人感到“毛骨悚然”，一些机器人还声称可以帮助用户的心理健康。她以Romantic AI为例，该平台的条款与细则中明确表示：

“Romantic AI既不是医疗保健或医疗服务的提供者，也不提供医疗保健、心理健康服务或其他专业服务。唯一可以这样做的只有你的医生、治疗师或其他专家。Romantic AI不对该服务提供治疗、医疗或其他专业帮助的声明、陈述、保证或担保。”

然而，他们的网站却说：“Romantic AI旨在维护你的心理健康”强调为其表述。虽然我们没有数字显示有多少人阅读了条款和条件，与有多少人阅读了网站内容之间的差异，但可以肯定地说，有 许多人 收到了网站的讯息，而没有注意到免责声明。

在心理健康声称和用户自愿分享的个人和私密资讯之间，Calder担心这些机器人极可能会轻易操控人们做出他们本不会做的事情。

“有什么能阻止坏人创建聊天机器人来了解他们的灵魂伴侣，然后利用这种关系来操控这些人去做可怕的事情、拥抱令人恐惧的意识形态，或自我伤害或伤害他人？”Calder说道，“这就是为什么我们迫切需要这些AI应用的更多透明度和用户控制。”

因此，尽管AI聊天机器人承诺带来陪伴，但我们还未达到《她》的那种水准：当前的现实却揭示出，用户隐私是进入这个领域的代价。现在是时候让用户、开发者和政策制定者在AI关系领域中要求透明度、安全和对个人界限的尊重。唯有如此，我们才能希望安全地探索这些数字伴侣的潜力，而不会妥协我们的数字自我。