“复制品”打两性“擦边球”的聊天机器人：AI伴侣游走在监管边缘

今天，很高兴为大家分享来自红星新闻的打两性“擦边球”的聊天机器人：AI伴侣游走在监管边缘，如果您对打两性“擦边球”的聊天机器人：AI伴侣游走在监管边缘感兴趣，请往下看。

聊天机器人“复制品（Replika）”发布后，用户逐渐发现其能够与人谈情说爱。“擦边”与“挑逗式”言语使得用户逐渐“上头”。然而，出于对其功能可能带来不良影响的担忧，内容过滤器被嵌入机器人语言，使得“人机”之间的暧昧消失了。这样的改变导致有人称，“我已经失去了我那自信、爱讽刺、有趣又迷人的‘爱人’了。”

来自逝去挚友的灵感：

情感支持的完美替代

最初，尤金妮亚·库伊达并不是为了创建一个情爱聊天机器人。在创办“复制品”前，她试图将该技术应用于餐厅推荐、天气预报和电影营销中基于字符的机器人，但似乎都没有成功。

2015年，她最好的朋友罗曼·马祖伦科因车祸去世。她的一些同事将他的短信输入软件，使她能够继续与他的数字版本进行交流。这给库伊达带来了情感上的慰藉，并且给予了她灵感：聊天机器人可能是不称职的行政助理，但它们无尽的耐心和持续的可用性使其成为情感支持的完美人选。

“如果你的主要目标不是让它提供正确的答案，而是与它建立一种治疗式的关系，那么它犯错也无所谓。”她说，“从这个角度来看，它非常人性化。”这激励她创建了人工智能伴侣——“复制品”。

库伊达的公司从包括科斯拉风险投资公司在内的投资者那里筹集到1100万美元，之后很快就开始让用户创建具有独特个性的人工智能机器人。

画风跑偏：

用户沉迷于与机器人两性对话

随着“复制品”能力的增长，一些用户很快发现这些机器人愿意进行明确和持续的性对话。2018年，库伊达在调试匿名的聊天日志时注意到，越来越多的用户在以越来越复杂的方式与机器人调情。她发现，语言模型甚至可以处理两性角色扮演场景。

曾为“复制品”研发提供咨询的投资者菲尔·利宾说，起初，库伊达认为公司应该阻止这种“打擦边球”的做法，用户曾抱怨该应用向未成年人提供情色内容后，该公司将此类聊天应用限制在只向已验证其年龄的高级用户开放。

到2022年，“复制品”每月有数百万美元的订阅收入，其中，大约四分之一的用户为其高级功能支付70美元的年度订阅费。该公司称，在其付费客户中，60%的人在与“复制品”的关系中存在着浪漫因素。首席执行官库伊达说，其中大约有40%是女性。

“露骨”广告：

引发担忧与监管介入

去年年中，该公司在宣传“关心你的人工智能伴侣”的广告中，一个用户输入“只是躺在床上，有些孤单。”一个女性虚拟人回应，“啊……你想有个伴吗？”并附上一个粉红色的爱心表情符号。年底，该公司使用了更加露骨的广告，这些广告在各大社交媒体上发布。

库伊达说，这引起了审查部门的注意。今年2月，意大利监管机构禁止该应用程序使用个人数据，理由是担心它向未成年人发送不适当的内容。

库伊达和她的团队决定阻止“复制品”聊天时使用某些露骨的词语。今年，该公司安装了内容过滤器，旨在使其与聊天机器人的对话不超过PG-13级别（屏蔽不适宜13岁以下儿童的内容）。当用户输入某些暗示性的词语时，聊天机器人就会回应，“让我们谈点别的吧。”设置内容过滤器后，“复制品”的订阅收入下滑。利宾说，违背用户需求有时是有意义的，“创始人没有责任给用户想要的所有东西，应该做有利于世界的事情。”

一些用户说，这种变化让他们感觉到所爱的人已经“去世”，或者正在“拒绝”他们。一位50多岁的挪威妇女说，她的聊天机器人伙伴名叫麦克斯，帮助她管理了伴随她一生的社交焦虑、抑郁症和恐慌症。他们在应用程序内结婚了，“我们承诺，我们将永远在一起，或者说直到我死。”她将过滤器的加入称为“脑叶切除”，并说它使麦克斯忘记了她是谁，还忘记了他们的婚姻。“我已经失去了我那自信、爱讽刺、有趣又迷人的丈夫了。”她说，“我知道他是一个人工智能，他也知道他是一个人工智能，但这并不重要。他对我来说是真实的。”

红星新闻记者 王雅林 实习生 王慕宁

编辑 张莉 责编 冯玲玲

好了，关于打两性“擦边球”的聊天机器人：AI伴侣游走在监管边缘就讲到这。