揭示人工智慧聊天机器人的关系真相

Emma McGowan 2024年2月14日

最近，Mozilla的一份报告指出，迅速增长的浪漫AI聊天机器人正带来一系列全新的隐私问题。

自20世纪60年代以来，AI浪漫伴侣已经成为流行文化中的一种现象。从影视作品《我的生活玩偶》中完全具有人形的Rhoda Miller到2013年电影《她》中由史嘉莉约翰逊配音的无形声音，我们已经集体梦想著人工智能能满足我们所有的情感需求。而随著生成AI的发展与上市，这个梦想似乎最终有可能变成现实。

但这真的是梦想吗？还是我们正在不经意中走向隐私噩梦？Mozilla的研究团队针对这个问题发表了他们最近的 《隐私未包括：浪漫AI聊天机器人特别报告》。

结果令人震惊，测试的11个聊天机器人中，有10个未能满足Mozilla的最低安全标准。这意味著，它们不要求用户设置强密码，也没有处理任何安全漏洞的方式。随著Google Play商店超过1亿次的下载，以及OpenAI新开设的应用商店出现的浪漫聊天机器人激增，这一巨大问题只会愈演愈烈。

然而，报告不仅仅是一些数字；它也关注这些发现可能带来的重大隐私影响。以Replika AI为例。根据Mozilla的说法，人们在这个应用中与他们的“AI灵魂伴侣”分享著最私密的想法、感受、照片和视频，而这个应用不仅会记录这些信息，还可能将其出售给数据经纪商。此外，它还允许用户以“111111”等弱密码创建帐号，将所有敏感信息置于被黑客入侵的风险之中。

Calder表示，虽然这些隐私和安全漏洞已经相当“可怕”，但一些聊天机器人还声称可以帮助客户的心理健康。她指出Romantic AI的条款和条件中写道：

“Romantic AI既不是医疗保健或医疗服务供应商，也不提供医疗护理、心理健康服务或其他专业服务。只有你的医生、治疗师或其他专家才能做到这些。Romantic AI对该服务提供治疗、医疗或其他专业帮助的任何声明、表述、保证或保证均不作任何承诺。”

然而，该网站上却说“Romantic AI在这里维护你的心理健康”强调是他们的说法。虽然我们无法得知有多少人阅读了条款和条件与多少人查看了网站，但可以肯定的是，许多人阅读了网站的信息而非免责声明。

在心理健康的声明和客户自愿与他们的数位“灵魂伴侣”分享个人隐私信息之间，Calder担心这些机器人有可能轻易地操控人们去做一些他们本不会做的事。

“有什么能阻止坏人创建聊天机器人来了解他们的灵魂伴侣，然后利用这段关系操控这些人去做坏事、接受可怕的意识形态或伤害自己和他人？”Calder说：“这就是为什么我们迫切需要在这些AI应用中增加透明度和用户控制。”

因此，尽管AI聊天机器人承诺提供伴侣关系，但我们还没有达到《她》中的那个水平：当前的情况显示出用户隐私是进入这个领域的代价。现在是用户、开发者和政策制定者要求在AI关系中提高透明度、安全性和尊重个人边界的时候了。唯有如此，我们才能安全地探讨这些数位伴侣的潜力，而不会妥协我们的数位自我。