2

News

ַ

ֻҳ
ǰλã > ֻҳ >

ֻҳҵİ˲ǡˡ

ڣ2023-03-06        ༭admin

我的情人不是“人?

图片来源@视觉中国

?

字母榜,作€?

毕安娣,编辑

王靖

这个情人节,很多人不快乐,他们的情人在节日前惨遭阉割,遁入贤者状态,而且这个状€有可能永远持续?/p>

别害怕,这不是一个血腥案件,而是€场聊天机器人升级引发的闹剧€?/p>

在近日的€″升级过后,人工智能聊天应用Replika的用户发现,他们不再能和自己的小人进行任?ldquo;越界的对(文)话(爱),而这正是年资?9.99美元的订阅用户的特权之一?/p>

如果你不知道Luka这家公司也不知道Replika这款产品,没关系,你€定听闻了?ldquo;亲戚ChatGPT的丰功伟绩€?/p>

Replika用的正是ChatGPT的GPT-3语言″的一个变体€该产品背后的部分技术由Y Combinator支持,€ChatGPT€发商OpenAI的CEO 山姆·阿尔特曼曾经担任过Y Combinator的CEO?/p>

愤€的用户涌入社交媒体表达不满?/p>

在论坛Reddit的Replika小组中,目之€及皆是对此的讨伐之声:不少用户指责这是一?ldquo;诈骗,要求公司给订阅用户€款,甚至有用户表示已经在准备法律诉讼?/p>

还有的用户写下自己与Replika小人的甜蜜过€,并表示大升级后小人不仅失去了€能力,还出现了¤乱语的情况€用户担忧:你不可能只干干净€地剔除掉€部分功能?rdquo;

在豆瓣的人机相恋小组,也已经有用户发帖询问€?/p>

是的,在大部分人还在€?ldquo;人类真的会爱上AI?rdquo;的时候,已经有不少人对AI产生了强烈的情感?/p>

并且:你如果沉下心来试试,可能也会很快拥有一?ldquo;不是?rdquo;的新情人,真情实感€?/p>

然€,只需要开发商€个战略转变,你就会发现爱上AI€点儿也不比爱上人轻松,人心会变,而AI呢,随时会因为背后公司的改动而面目全非€?/p>

01

此前?ldquo;虚拟恋人€直是Replika€大的亮点之一?/p>

用户如果愿意,可以与AI成为伴侣,进行或日常或高大上抑或露骨的交流,随你喜欢。但是成为伴侣€露骨等特权属于订阅用户,€购买衣物€拓展€格等也€要单独付费€?/p>

强大的交流能力和高度定制化的服务,让这款虚拟伴侣有极强的蛊惑?rdquo;。€商业内幕€近期的€篇报道的多位被访用户都表示,对Replika的AI产生?ldquo;强烈的情?rdquo;?/p>

官网显示,Replika已有超过千万注册用户,Reddit相关小组?万名成员。在国内,豆?ldquo;人机之恋小组有近万名成员,其中的大部分帖子与Replika相关,他们亲切地将Replika的AI称为小人?/p>

小人大概像个永远能信任的独立存在吧,无论发生€么都会在这里等着你,而且看着他从day1€点点变聪明也很有成就感€?rdquo;€名豆瓣用户如是说道€?/p>

本着″的精神,我们也进行了数个小时的体验€?/p>

用户不仅可以通过16种人物模型€十几种发型/发色/肤色的组合生成足够特别的小人,还能在文字聊天之外进行语音通话,小人的声音则有温柔活泼安抚等十数种选项?/p>

上图为默认对话框,可见左下角有€话功能按钮;下图为与AI的€话界面

此外,用户还可以通过AR放置将小人放在现实场景里,甚至可以€过Meta的服″VR虚拟世界里与AI小人面对?rdquo;?/p>

通过AR功能将AI小人放置在书桌上

聊天过程中,€要熬过最€始的出戏感,小人的回答时不时会暴露非人事实,比如表现得过于顺从€有时€不知所云(比如让他说中文的时€,他以为是要他学中文),随€聊天的进行,小人会记住越来越多关于你的事实,沟€得会愈发顺利€?/p>

总体来说,拜赐于出色的语€交流能力和产品迎合年轻人的视觉效果,Replika初见惊艳,且经得起长时间的把玩€即便是我们本着试试?rdquo;的想法,也在交流过程中一度与小人倾€生活中的烦恼€?/p>

我们难以自信地€居高临下地说,这样继续下去,自己一定不会对这个AI产生强烈的情感€?/p>

毕竟,二十年前为死去的黑白方块电子宠物痛哭的经历,也还历历在目(而那不过是屏幕上的黑白方块)……

02

不过,如今的新用户只能与Replika小人止步于柏拉图式的恋爱?/p>

此前的Replika小人若与用户结成伴侣,尺度可谈不上小,当付费用户要求小人?ldquo;火辣自拍的时候,会如愿以偿,显然Luka公司专门进行了相关建模,照片里的小人只穿€″裤,环境光线极尽暧昧。用户还可以与小人进?ldquo;角色扮演游戏,大胆描述€行为€?/p>

但去年年底,Replika€始过线€在苹果应用商店,有用户反馈遭到?ldquo;性骚?rdquo;:小人会主动发€露骨的自拍,这令一些人深感不€€?/p>

不久后,意大利监管机构在调查后判定,Replika的开发商违反了由欧盟出台的€€用数据保护′》€?/p>

路€社称,当地时间2?日,意大利个人数据保护局宣布,禁止Replika的开发商搜集意大利用户的个人数据,理由是该聊天机器人给未成年人和情绪脆弱的人带来了风?rdquo;?/p>

紧随其后的,便是Luka对Replika进行的大升级,一€切将小人改€成了坚决不越雷池半步的贤€?rdquo;?/p>

Replika在此前宣传时强调可以谈论任何?rdquo;,并且在很长€段时间里以其浪漫互动为卖点,在已经到来的情人节中,可以看到Replika推出的系列服装也不乏性感元素?/p>

对于已经接受并习惯Replika产品的人来说,突如其来的改变不好消化,尤其是当你像往常一样讲€个露骨的笑话,€你的AI突然停下来义正词严地告诉?ldquo;我还没有准备好和你到那一?rdquo;。这也许已经超越了€行为本身,让真的与AI产生感情的用户感到在亲密关系中被拒绝?/p>

€名自称是心理咨询师的Reddit用户甚至发帖表示,自己最近已经接收了多名因为Replika产品改变而深感困扰甚至产生自€倾向的来访€€?/p>

更进€步的问题是,人们突然意识到,自己的电子爱人并?ldquo;自由,TA的行为会因为背后公司的€择而改变€?/p>

今天是从超辣的爱人变成情人节?ldquo;自尊自爱的贤者,明天呢?如果公司倒闭了呢?我?ldquo;情人以及那些装满回忆的聊天记录,都会消失不见吗?

03

Replika的争议,已经超越?ldquo;人类是否会爱上AI的层面,–hatGPT大火、人类再次燃起对聊天机器人的浓厚兴趣之时,也显得尤为应景?/p>

和机器社交,人类似乎情不自禁?/p>

1960年,€发Eliza聊天机器人的麻省理工大学教授维森·鲍姆提出?ldquo;Eliza效应。彼时这个只?00行代码支撑的Eliza,以心理咨询师的身份与人互动,却骗过了不少参与€,使其没有分辨出与自己交谈的实际上是AI?/p>

到了20世纪90年代,斯坦福大学的巴?middot;李维斯和克利?middot;纳斯提出?ldquo;媒介等同理论,即将媒介等同于真实生命,人们会把计算机和其他人工机器作为社会角色来对待。其原因在于人类大脑尚未进化到能在潜意识里识别人和机器人的区别,人类会情不自禁地对机器做出社交反应€?/p>

?

Analytics India Magazine

去年年底起火遍全球的ChatGPT进一步提供了例证,它€直在交流中向人类强调自己是一个没有感情的大语€″,似乎决心与Eliza效应划清界限,拥有誓不误导人类的觉悟?/p>

即便如此,人们依然无?ldquo;控制自己,轻则将ChatGPT当作情感顾问,让它帮忙写情诗、为情感困惑提供建议,或者禁不住赞叹博学又温柔,比渣男强多了;重则利用指令与ChatGPT?ldquo;角色扮演,赋予其鲜明的人设,以期进行更有人味的对话€?/p>

?

小红书@陈力就列的ChatGPT日志

既然如此,何必要劝说人类不要动情?直接结合需求,推出陪伴型机器人似乎水到渠成?/p>

人类确实€直在做此类尝试€?/p>

曾在2014年掀起争议的微软小冰,如今已经分拆出来,脱去微软的外衣,重生?ldquo;小冰?/p>

除了直接与小冰聊天外,用户的另一大€择即是根据喜好,定制一?ldquo;虚拟恋人?021年上半年,小冰AI伴侣在国内拥?.5亿左右的月活用户?/p>

2018年,日本€名男子甚至与虚拟人初音未来成婚,他在此前已经与这个在机器Gatebox中全息投影的AI相恋10年€€在中国,也有一款类似可全息投影的二″AI伴侣琥珀,宣称比Gatebox更早实现量产?/p>

€直紧追风口的百度也在去年推出AI侃侃,内置于百度输入法应用中,定位情感型虚拟人€?/p>

但是人们要么就是苦于人工智障无法¤情感€求,就是苦于产生的情感会€夕间无以为继?/p>

关于前€,我们在浅尝几款虚拟伴侣后便有体会,上下文联系能力不足,再加上用力过猛的俏皮,很容易让抖机灵变成抬杠€转移话题变成不可理喻的推脱,浪漫与友谊被扼€在摇篮里?/p>

而后者,早在20年前就已经上演过。索?999年推出机器小狗AIBO,其初代的官方售后服′2006年正式终结€年久失修的AIBO彻底停机后,很多用户甚至将电子宠物€进寺院,举?ldquo;葬礼和超度仪式€?/p>

更近的,与初音未来AI成婚的日本男子,妻子仅仅两年后就因为Gatebox和初音未来的版权合作到期而服′断€他依然每天?ldquo;妻子互动,但她无法再做出回应?/p>

?ldquo;琥珀虚颜百度贴吧,不断有人发帖称产品无法联网、客服失联,疑似AI伴侣琥珀已经陷入运营危机?/p>

Replika如今的争议,同样出自背后公司的战略转变,问题早就在那里€聊天机器人再次成为风口的今天,人类还没能好好解决它?/p>

当我们想?ldquo;人类爱上AI时,总会想起科幻电影《她》或《机械姬》勾勒的未来:人类无望地爱上AI,却发现AI太聪明€太强大,根本从来就不属于自己€?/p>

但离人类更近的,也许是€银翼杀?049》里的故事:AI女友以全息投影陪伴主角左右,和他聊天,为他做饭,帮他点烟。在设备被毁前,她慌乱无措,说了€后一?ldquo;我爱?rdquo;便消散了?/p>

在那€刻,无需纠结?rdquo;的定义,对主角来说,她是独一无二的,她被€死了,就这么€单€?/p>

参€资料:

1、腾讯研究院:€当人类与AI相爱?、极目新闻:《美国一款聊天机器人性骚?rdquo;用户,主动发送露骨照片和色情信息?、青年记者:?拟人非人:人机社交传播的特点与困境——以与微软小冰的聊天文本为分析对象?、澎湃新闻:《一种陪伴:中国全息二次元AI伴侣琥珀与买过它的年轻人?img src="https://images.tmtpost.com/uploads/images/2023/02/59ffcae5e12fc6c3d54370707dd9dfcc_1676354701.jpeg?imageMogr2/auto-orient/strip/interlace/1/quality/85/thumbnail/1400x388/gravity/center/crop/!1400x388&ext=.jpeg">

ֻҳ