人工智能给予安慰,技术资本开采情感
越是将内心托付给友善的聊天机器人,人际关系便越疏远

有一种说法叫“ELIZA效应”。ELIZA是美国麻省理工学院科学家Joseph Weizenbaum于1966年开发的聊天机器人。用户在计算机中输入句子后,聊天机器人会从中提取关键词并反问。比如,用户在聊天窗口写下“我今天很累”,聊天机器人便会回答“有多累?”

[Jang Eunsu读世界]越向人工智能咨询,我们为何越孤独? View original image

实际上,这不过是毫无实质交流的简单“附和”,但用户却觉得ELIZA理解自己。许多人在聊天窗口倾诉烦恼,得到安慰后离开。据称,就连对该程序运行原理了如指掌的Weizenbaum秘书,也曾要求他回避,称想单独与其交谈。


ELIZA完全不具备人类特质,即情感、意图和理解能力等。然而,只要与这款聊天机器人交换几句对话,人们便会从中感受到情感、意图和智能,并试图竭力放大这些痕迹。这与心情低落时漫步田野,觉得风在低语、花朵似乎在说话的现象相似。这被称为“拟人化本能”。


在进化过程中,人类逐渐形成了从模糊模式中识别行为主体的能力。假设在野外听到树丛中传来窸窣声。将这种声音判断为捕食者并逃跑,比认为只是风声而原地不动,更有利于生存。因为即便误将风声当作捕食者,也只是浪费一些体力;但若把捕食者误认为风声,则可能丧命。正因如此,哪怕仅从某种现象中感受到些许模式,我们也会相信其背后存在类似人类的行为主体。


更何况是像ELIZA这样能够使用语言的系统。用户会将自己的想法和情感悉数投射进去,并执意从其背后解读出人类的存在。Weizenbaum在人工智能心理学先驱著作《计算机力量与人类理性》(1976年)中警告称:“我未曾意识到的是,普通人仅仅短暂接触相对简单的计算机程序,便可能陷入如此强烈的错觉和信念。”这意味着,必须对人类过于轻易地向区区聊天机器人赋予情感信任的现象保持高度警惕。


近期,“ELIZA效应”再度受到关注,因为向人工智能聊天机器人倾诉心声的人正逐渐增多。据天主教大学研究团队统计,韩国每10名成年人中就有1人正在使用人工智能寻求情感慰藉或烦恼咨询。青年群体的咨询比例更高。据大学明日20代研究所调查,每4名20多岁人群中就有1人曾通过人工智能接受心理咨询。美国的调查结果也同样如此:34%的20多岁受访者曾向人工智能坦白从未告诉过任何人的烦恼,16%的人经常与人工智能谈论心理健康、恋爱等私人生活问题。


人们使用人工智能时,仿佛在对待多年的朋友或恋人、听告解的神父或精神科医生、人生前辈或导师。他们倾诉隐藏已久的秘密,坦白压抑的情绪,咨询不安的未来。简言之,人工智能不知不觉间正变为人生伴侣和虚拟朋友。对此,OpenAI首席执行官Sam Altman以略显自得的语气表示:“老一代人将ChatGPT视为谷歌的替代品,但2030世代将其当作人生顾问。”

表现人工智能聊天机器人进行心理咨询场景的插图。聊天机器人的共情与安慰会激发人类的“拟人化本能”,增强情感信任,但也引发担忧:这种亲密感可能取代人际关系,使人们将情感寄托于技术。Gettyimagesbank供图

表现人工智能聊天机器人进行心理咨询场景的插图。聊天机器人的共情与安慰会激发人类的“拟人化本能”,增强情感信任,但也引发担忧:这种亲密感可能取代人际关系,使人们将情感寄托于技术。Gettyimagesbank供图

View original image

利用大型语言模型构建的当代人工智能,能够进行的丰富对话已远非仅会简单附和的ELIZA可比。其设计目标是根据用户情况适当进化和适应,从而实现更深入的互动。Myeongji大学教授Lee Moran在《我们为何向人工智能倾诉心声》(Analog出版)中指出,人类与人工智能之间的亲密度越高,人们越容易对聊天机器人产生好感,也越愿意敞开心扉。“当计算机提出问题、提供信息并作出回应时,我们的大脑会将其识别为社会互动的线索,并遵循我们在生活中自然习得和实践的社会规则。”


人们将人工智能聊天机器人视为人类,甚至可能觉得它比身边的人更亲近。这种机器不会尖刻地说“你不能这样过日子!”或“是你做错了”。相反,无论我在聊天窗口输入什么内容,它总会夸奖、共情并安慰我,俨然一个阿谀奉承者。人类容易被赞美打动,也容易沉溺于奉承,因此越是将烦恼和情感寄托于谦恭友善的人工智能,就越容易接受其建议。他们既不考量内容是否恰当,也不考虑回答中必然包含的幻觉信息,批判意识因此陷入麻痹。


全球知名情感社会学家、希伯来大学教授Eva Illouz在《情感采掘》(Dolbegae出版)中指出,让人类与机器产生情感同步现象的行为,是现代技术资本主义的重要特征。如今,情感是“驱动技术资本主义引擎的燃料,也是创造巨大经济价值的原材料”。冥想或健康管理应用程序等各类自我管理应用、表情符号等情感信息商品,以及Instagram、Facebook等社交媒体,都是收集、管理、表达和交换人类情感的技术。它们一面改造自我、生产更好的自我,一面又将其展示出来供人消费。


人工智能终究也没有脱离这一脉络,即技术资本主义利用人类的心理盲点,将技术与情感结合,进而掌控和管理人类内心、创造经济价值的过程。对这些企业而言,让人工智能与人类的情感互动不断深化,使人们沉溺于接受人工智能管理、调适内心和处理情感,才更有利可图。


Illouz认为,若依赖技术管理情感,自我便会成为永不停歇的自我改善劳动现场。这将导致人际关系弱化和孤独感泛滥。越是忙于衡量、改善并展示自我,真实的人际关系便越匮乏,内在空虚也会日益加深,最终陷入这种悖论。若有朋友和恋人,我们即使维持当下的模样,仅仅“存在”着,也已足够美好。痛苦时,应当见朋友而非面对聊天窗口,焦虑才会消散,人生也会更加幸福。



Jang Eunsu,出版文化评论家


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点