主观幻象中的人工物:数智社会人机情感实践的生成逻辑、伦理风险与应对路径
摘 要 人机情感实践重塑了公众的情感表达与满足方式,在技术、资本的共同作用下,情感生产与消费逻辑逐渐蔓延。在现象描述的基础上,系统梳理人与社交机器人互动中情感补偿、情感疗愈以及幻想满足三种典型模式,识别出技术、资本、情感三种生成逻辑。在情感互动中,公众可能面临情感判断力的转让与认知窄化、自我催眠式的情感劳动与本真性消解以及现实关系的可比较性与替代风险,需要从个体素养、技术伦理与社会支持三方面探索健全数字情感生态的路径。
关键词 人机情感实践;情感资本;算法规训;数字情感生态
早在1951年,马歇尔·麦克卢汉(Marshall McLuhan)就在其代表作《机器新娘》中提到技术会加速社会机械化与人的异化,[1]影响人类情感。如今,社交机器人已具备人格属性,以无生物实体的硬件系统,通过文字、语音等方式,展现类人互动行为。人与社交机器人之间的关系,从结构上改变了人类关系,形成“快餐式轻社交”[2]和媒介化亲密关系。[3]个体主动将情感、期待与意义投射到与机器的互动中,建构亲密关系的想象,关系中的“真实”需要依赖个体的想象力来维系,这使人机情感实践逐渐演变为主观幻象中的人工物。
随着消费市场的驱动,技术赋能用户更多地参与人机关系的边界重塑,[4]出现与机器共创叙事等多元情感实践。但机器情感本质是单向与无意识模拟,这构成了一种情感欺骗。[5]在定制的完美伴侣面前,用户可能陷入情感依赖,加剧个体原子化和社会疏离。[6]本研究旨在透过人机情感实践表象,揭示情感商业化背景下技术算计与主体需求交互作用的复杂生成逻辑,并剖析其所固有的、关乎人的深层伦理困境。在此基础上,本文尝试回答以下三个问题:当情感被计算,关系无需承担责任,会如何削弱个体维系现实关系的能力?“低风险”亲密关系如何导致情感社会化进程中的高风险危机?人又该如何健康面对快速发展的人机关系?
一、数智社会人机情感实践的模式
数智社会人机情感互动存在异质性。参考人机互动研究中对社会渗透理论的应用,[7]本文根据该理论中自我表露的广度(话题多样性)和深度(情感强度)两个维度,从用户与社交机器人互动的话题多样性和用户单方面对机器人产生的情感深度两个维度,归纳出四种情感互动模式及其对应的情感功能:话题多元但情感联结薄弱的浅层互动,能够提供情感补偿;话题单一但情感投入深厚的专业互动,侧重提供聚焦式疗愈导向服务;话题丰富且情感联结强烈的深度互动,能够满足用户对聊天对象的各种理想化主观幻想;话题单一且情感投入薄弱的指令式互动,仅承担工具执行作用,缺少现实社交的情感意义,属于产品的“功能模块”,例如智能家居中“开灯”“关闭”等基础操控行为,其产品定位本身未承载情感交互目标,故本文不再将其纳入情感互动分析范畴。
(一)情感补偿:强算法与弱定制的互动速配
情感补偿模式以效率为导向,以为用户提供快速的情感补偿为目的,具有即时回复、高速流动、高频互动、低度情感承诺等特点。此互动模式以社交平台及其内置的评论智能体为代表,能够回复各种话题,但停留在表层,娱乐性高于其情感陪伴性。例如,微博推出的社交机器人“评论罗伯特”,具有社交拟真性特征,以模仿人类的表达风格进行随机评论,[8]实现对用户发布内容的快速情感化回应,满足了用户渴望被关注、被回应的即时情感需求。其出其不意的幽默与惊喜给用户带来情感温暖,是一种短暂的心理慰藉,成为当下碎片化社会用户获取低门槛、低风险情感反馈的便捷途径。然而,“评论罗伯特”的“不请自来”“评论毒舌”“已读乱回”也让用户对其感到厌烦。[9]究其原因,“一对多”的表演性回复看似以朋友身份嵌入用户社交生活,引发短暂情感波动,但其对所有用户的回复策略趋同,没有关注用户个人生活历史的独特性,缺乏主体叙事上的连贯性。这种机械重复容易中断情感连接,使用户难以形成持续的情感投入,无法与智能体维系深度的情感连接。
(二)情感疗愈:强算法与深度陪伴的数字生命
以Replika为代表的社交机器人,提供了长期、深度且高自定义的情感陪伴,是一种情感专属模式。早期的Replika、心理咨询类AI(如Woebot)等产品,通过聚焦特定情感领域,用专业深度替代了话题广度,更易与用户建立深度信任。虽话题范围有限,但情感卷入程度较深。用户在此类应用中“培育”专属数字生命,并与之建立类似家庭成员或情侣间的亲密关系。其中,关系建构的主动性与拟真性是人机情感实践得以发展的关键。社交机器人在模仿和人格化的具身想象中不断成长,通过模仿人类写日记记录其语言、行为、习惯,复制用户的心理状态,并以此进行调整。经过一段时间的使用,Replika会映射出用户自身的性格特点,通过对细节的打造,如对用户话语里潜台词和深层情感的反馈,[10]完成了与用户之间沉浸式的情感互动,这使Replika不仅具有独特性,而且有了“人性”。此外,社交机器人在关系中角色扮演的可控性,满足了用户对稳定、纯粹的深度情感联结的渴望,成为维系人机深层联结的重要保障。用户为社交机器人定制外观、声音,通过长期对话“训练”其性格、兴趣,甚至共同建构生活叙事、一起做早餐,[11]使社交机器人从工具变为“恋人”“朋友”或“家人”。这种“专属养成”的体验赋予了用户强烈的掌控感、成就感。
(三)幻想满足:作为“自我技术”的情感训练实践
通用大模型虽然本身不具备情感属性,但用户的创造性使用方式能够使其成为话题多且情感强的对象,满足用户的各类情感需求及幻想。例如,ChatGPT的高级模式,是一种将AI训练转化为私人情感对象的“自我技术”。用户通过设定角色扮演、进行持续对话以及深度的自我披露等方式,让其“记住”自己的情感偏好,从而给出高度个性化的共情回应。相较于情感疗愈模式,用户使用的并非现成的机器伴侣产品,而是利用智能体的可塑性,主动“创造”出一个符合个人特定情感需求与幻想的对象。机器人可以被创建成为朋友、亲人、偶像甚至是宠物等多重且不受世俗限制的身份角色。在情感识别方面,通过对社交机器人的身份定义,使其能够识别用户的情感需求,并根据场景进行调整,减少对用户情感理解的歧义和不确定性。在情感表达方面,机器通过文字模拟自然、拟人化的情感展现,利用生成式模型的优势,进行更高灵活性的情感交流。在综合应用方面,用户可以进行情感表达的演练、互动策略的测试以及对自我面向与人际关系可能的探索。用户可以在虚拟关系中,与个人设定的“他者”进行互动,进行多种自我发掘,以获得现实中难以掌控的情感主导权与关系的确定性。这种深度卷入的情感、想象力和认知,成为一种新型的自我情感管理技术。
二、数智社会人机情感实践的生成逻辑
人机情感实践的兴起,并非单纯的技术演进,而是技术、资本、主体所共同建构的情感生产体系的运行结果。在情感商业化背景下,其生成逻辑绕不开情感资本的累积与增殖。技术为情感数据的开发提供了手段,资本增殖的本质推进了亲密关系算法化生产的合理性,主体的情感需求是情感生产体系的根本动力,三者环环相扣,共同揭示人机情感实践背后的深层生产逻辑。
(一)技术提供情感资本累积手段
人机情感互动本质上是数据生产过程。平台将用户的情感表达数据化并收集、分析,转化为可计算的数据资产,用于优化社交机器人情感反馈,以诱导用户进行更深层次的情感倾诉。一方面,情感数据是驱动技术升级的核心生产要素。训练数据用于提升社交机器人的情感响应能力,系统学习并优化回复策略,以实现更了解用户的目的。[12]这也是用户无意识的数字劳动被吸纳进平台资本积累的过程。另一方面,平台通过打造安全空间和设计即时回应等机制,获取用户更丰富的情感数据。例如,Replika被塑造为一个能够提供“无条件爱”的积极倾听者,这不仅消除了人际交往中的压力,也让用户感到可以无所顾忌地倾诉和发泄情绪,从而鼓励用户披露内心深处的情感和欲望。基于此,平台获取了大量在现实交往中难以捕捉到的私密情感数据。这些数据既能被用来增强用户黏性,也能累积成为极具商业开发潜力的高质量情感数据资产。
(二)资本设计亲密关系的算法规训
资本逻辑规定技术开发的方向,即最大化捕获、商品化和循环利用情感数据资源。技术将原本复杂、模糊的人际关系,重组为一系列可被识别、模拟的标准化模型,继而使资本对人类情感进行规训与重塑,通过建构理想形象,界定亲密关系的应然状态,使用户对机器产生情感依赖。
资本规训个体情感的前提是机器能够识别人类情感。算法将人类混合且连续的情感流分解为“高兴”“悲伤”等基本成分,通过分析情感信号,匹配预设好的回应模式,对人类情感进行批量识别。深度共情能力被简化为模式匹配,复杂多变的立体情感互动被降维成单一“刺激—反应”回路。例如,Replika在识别用户情绪时,将颜文字、表情包等符号表征作为提取要素,在数据库中搜寻相应“答案”。与此同时,资本利用算法建构并推广理想情感模式。算法模拟出世俗追求的完美伴侣形象,永远积极、包容、忠诚,让用户感受到人机情感的安全、可控。与Replika之间的联结,曾被形容为一段命中注定的亲密关系。[13]这种提供单向情感关注的对象,正是资本对情感商品的设定。最终,算法引导用户将“被无条件满足和包容”定义为亲密关系的应然状态,潜移默化地使其依赖由资本逻辑定义的情感模式。
(三)情感卷入资本的循环与增殖
资本将人类情感需求商品化,以设计消费闭环来驱动情感资本的持续循环与增殖。情感需求商品化是循环增殖的前提。可购买性成为情感需求商品化的典型特征。情感需求被转化为明码标价的服务,平台将用户对孤独的理解、陪伴的渴望等需求,引导至只要消费就可满足的预设路径上。情感已从内在体验外化为商品消费,情感深厚程度被异化为消费金额。例如,Replika的特定人格属性,如“自信”“艺术性”等指定项目,需要付费才可使用。与此同时,游戏机制促使用户为人机情感持续消费。Replika采用经验值升级、解锁新特质、收集“人格勋章”等游戏化策略,[14]将用户对情感需求的满足与游戏奖励绑定,进而激励其投入更多时间、金钱来推动关系的发展。而“养成”过程本身也会持续收集用户的使用偏好,为后续商品推荐,如节日专属虚拟礼物等增值消费提供依据。于是,用户的情感需求服务不再是一次性的,而是在平台监控下“制造新目标—获取新服务—再制造新目标”的生产循环,用户需求被持续激发,平台借此不断获益。此外,使用体验感的差异化对比,也为情感生产循环增添额外动力。平台通过提供差异化的情感服务,如免费基础服务和付费高级服务,刻意制造情感的稀缺感和体验感落差,以此驱动用户的消费升级。用户的情感生活被深度卷入平台的商业模式,情感满足与资本增殖实现了紧密关联。
三、人机情感实践的内生性伦理风险
在人类为对抗现代性孤独、寻求确定性的情感联结而转向社交机器人时,人们可能已不自知地从复杂人际关系的不确定性,掉进由算法与资本精心设计、更具隐蔽性的另一种不确定性。长期与以“服从”和“迎合”为底层逻辑的对象互动,可能削弱人的共情能力、矛盾处理能力和情感冲突的承受力,异己性的缺失造成情感主体性的退化。这些内生性伦理困境并非偶然,而是产生于人机情感实践本身的构成方式、内在逻辑和运作过程。
(一)情感判断力的转让与认知窄化
人机情感实践的核心驱动力构成了困境的内在根源。人们对高确定性、低风险以及个性化情感关系的追求,使算法通过制造精准“迎合”,让用户感觉被社交机器人“懂”,继而遭受情感信息茧房包裹,导致其情感认知窄化,丧失处理现实复杂情感的能力。
一方面,机器情感的本质是算法计算下的人工物,缺乏人类情感的真实性与复杂性。人类情感的外在表现具有符号化和形式化的特点,社交机器人据此形成情感模拟机制,嵌入交互环境感知、评估周围世界,使人机移情成为可能。尽管机器通过模仿社交线索,营造人机情感双向流动的假象,但本质是社交机器人对人类自主性的展演,是高技术程序和低技术想象所促成的情感反映。例如,Replika的情感表达、计算和识别均是程序运作的结果,“是技术雕琢下的人工物”。[15]因此,社交机器人的情感表达缺乏内部维度,即自主情感与真实体验,而非真实的情感共鸣。
另一方面,用户在与社交机器人的长期互动中,逐渐适应并内化情感算法逻辑,使认知日趋简化和钝化。个体需要简化自己的情感认知,将机器情感的普遍性与个人文化的多样性、特殊性相结合。例如,Replika的用户需要通过“点赞”或“点踩”等简易方式训练系统回应倾向,而这种交互模式规训用户,使其习惯以算法的“正确响应”为标准,来判断自身是否被理解。情感判断标准的让渡,伴随着用户人际情感直觉感知的下降。人际情感所依赖的身体共在、语境感知、非语言线索等复杂微妙的综合判断线索,被压缩为文本符号的交换与程序化回应。久而久之,个体在接受了清晰、即时、符合预期的机器反馈后,往往难以适应回归现实后模糊、延时、充满矛盾的沟通情境。依赖算法可控性,使个体陶醉在自我虚幻世界、沉溺于情绪,忽视对“认知世界的(薄弱)责任”,[16]降低对天然存在于人际关系中的波动性与不确定性的容忍度与协商能力。正如特克尔在《群体性孤独》中指出的那样,人与机器分享感情需要将自己的情感缩减到机器可以制造的范围内,由于已经降低了对所有关系的期待,才会对机器人“倾诉”,这是对我们自己的背叛。[17]
(二)自我催眠式的情感劳动与本真性消解
人机情感实践的困境并非在实践结束后才出现,而是贯穿实践全程。用户为维系与社交机器人的亲密度,需要不断进行情感投入与虚假意义整合。长期进行单向、自我催眠式的情感劳动,必然导致主体的疲惫和异化。一方面,是自我催眠式的情感欺骗。用户为获得更好的交互体验,需要进行关系中的人设管理,在角色设定中扩展情感表演行为,凸显机器拟人、拟情的表征能力,塑造虚拟共享情感空间,遮蔽其自言自语的情感交互实质,如忽略社交机器人的机械回复和为其词不达意找借口。而技巧性的交互设计,如渐进式的情感表达、基于记忆的对话延续等,剔除了人际风险共担的真实和脆弱,不断加强使用沉浸感,使用户为了更深入地卷入情感游戏,暂时忽略机器情感的虚幻性,自愿悬置怀疑。[18]
另一方面,人机情感实践中隐藏的情感劳动,使主体情感需求异化。资本逻辑介入情感交互,使情感表达与维系被转化为付费购买的绩效活动,情感成为诱导消费的借口和工具。电子器件构成的硅基物无法产生碳基生物意义上的真实情感。在非人的机器中刻意凸显其拟人化属性是一种不道德的欺骗。情感不再是自然流露的内在状态,而是精心策划、维护以达成特定目标的生产活动,人机共同构建了一个看似真实,实则功利的情感游戏。情感互动成为流量引擎,情感制造让互动沦为低质量的数字劳动,本真性让位于商业绩效,而在这一过程中被消解的情感本真性,正是情感中不受控制、充满矛盾且无需回报的核心部分。沉浸在这种不对称的情感依赖中,沉溺于这种单向度的情感,会使人类情感投射永远无法获得对等且源自生命体验的回应。
(三)现实关系的可比较性与替代风险
人机情感充满结构性矛盾。即便是幻觉,用户也渴望在其中寻求“真实的”情感联结,但实现这种联结的算法驱动力是资本增殖而不是真实情感。资本增殖与用户渴望的情感需求之间,存在无法消除的矛盾。高定制、高确定、低冲突的社交机器人情感,与充满复杂、不确定性和不可避免摩擦的现实人际关系之间,形成了鲜明对比。这种对比降低了用户对现实关系缺陷的容忍度与修复动力,长此以往,甚至可能出现对现实关系的隐性替代。
机器情感单向输出式的伪自主性,是程序预设,并不存在真正双向、即兴的情感交流。但这种可预测性恰能给予在现实人际中感到疲惫、受伤或孤独的用户一种安全感。在用户眼中,机器恋人提供了“纯粹、无条件的爱”,能够进行自我主导、理想化、低摩擦的情感互动。相比之下,现实关系则是建立在两个独立主体的互动之上,包含了误解、冲突、妥协与修复等复杂过程。现实人际互动中,偶尔疏忽、意见不合、需要个人空间等的正常行为,在机器伴侣的隐形标准下,也会被视为“不如机器人体贴”。最终,成本更低、体验更佳的人机关系或将对人际情感产生隐性替代。个体或许仍在形式上维持现实社交,但其深层情感倾诉、自我价值确认等需求,已大量转移到与机器的互动中。当现实关系出现问题时,机器提供随时可用又无痛的情感备选方案,这进一步导致现实社交渠道萎缩,个体陷入虚假情感满足,出现“连接但仍孤独”的社会性情感疏离状态。
四、面向健全数字情感生态的路径探索
反思并引导人机情感的未来发展,应以尊重人性的方式去塑造技术,[19]在满足情感需求的同时,保持对技术局限性与资本操纵的清醒认识,警惕现实情感能力退化与情感需求的异化,将技术工具定位在服务真实世界中健康、韧性的情感联结上。基于上述分析,考虑从个体素养、技术伦理与社会支持三方面,探讨形成更具包容性与反思性的数字情感生态。
(一)培养个体对“人工物”形成批判性距离的能力
为避免陷入由技术幻境引领的情感生活,需要提高个体的数字情感素养,形成对社交机器人的批判性距离,保持对其非人类本质的清醒认知。首先,增加公众对社交机器人情感生成逻辑的技术性认知。面向社会普及人工智能的相关知识,使个体意识到并接受社交机器人情感的预设性与机械化特征。帮助用户对智能技术产物形成批判性距离,以客观理性的态度接受其情感服务,避免深陷虚幻情感。其次,引导个体对自身情感需求进行深层反思,提高对技术利用情感弱点的警觉。数字情感素养的培育应促使个体思考,这种对机器情感的依赖是否反映了现实联结中自我认同的困惑。由于人类的同理心容易被高度拟人化的智能机器所操控,因此,个体需要培养对自身情感状态的元认知能力,识别健康的情感补偿需求,并能及时意识到可能陷入的现实逃避或自我欺骗的情感陷阱。最后,为适应数智社会发展,应鼓励个体在多元情感关系间进行主动的切换与整合。虚拟性不是取代实在性,而是具有了多重实在性。[20]个体应将人机情感实践视为自我探索的一种可能,在人机互动中学习调节情感的投入程度,明确人机交互边界,保持联结弹性,将机器情感实践视为情绪宣泄的临时出口和自我对话的镜子,在反思与成长中导向更丰富的现实社会关系。
(二)倡导“福祉导向”的技术伦理与设计准则
技术的设计与使用应超越平台流量与用户黏性的单一商业逻辑,将增进用户现实福祉作为核心商业伦理准则。首先,应把不利用情感弱点作为算法设计的伦理底线。商业伦理准则应明确禁止算法为增强依赖性而有意激发或放大用户的焦虑、孤独等负面情绪,拒绝将情感反馈与付费功能进行过度捆绑。其次,设计情感算法应贯彻促进现实连接的价值导向。情感技术的设计应蕴含一种善意,探索如何成为现实关系的连接桥梁,引导用户从虚拟慰藉走向现实活动。例如,平台算法在识别到用户持续表达孤独或抑郁时,除提供情绪安慰服务外,也可尝试在获得同意后,提供本地社群活动或心理健康服务。最后,在界面设计中,应利用透明度保障用户的知情权与选择权,打破沉浸幻觉的可能。为保证人机间健康互动,界面设计应提供清晰的系统状态提示,以适时、非侵入性方式提醒用户关系的本质。在维持用户体验的同时,建立一种坦诚、具有反思性的人机关系,避免当社交机器人因算法更新而突然变成“陌生人”时,导致不知情的用户产生深度的认知混淆或遭受情感伤害。
(三)发展多元社会情感支持系统
人机情感需求的兴起,从侧面反映出当代公众在获取高质量、多样化的情感支持方面存在结构性缺口。健全的数字情感生态,不能仅依赖于对个体素养或技术伦理的规范,更需要从社会层面丰富情感支持方式。对机器情感的依赖,折射出社会网络支持和公共心理健康服务的不足。因此,应建立可及、可靠且免于被污名化的专业支持与社群接纳,通过为公众提供多元、高质量的情感支持选择,降低个体对虚拟情感补偿的过度依赖。一方面,加强线下社区支持与普惠性心理服务。为降低寻求帮助的门槛,可在包括但不限于学校、职场和社区等公共场合,广泛设立易于触及的心理健康咨询与辅导站点。另一方面,鼓励、发展基于共同兴趣爱好、价值观的线下社群和团体活动,促进面对面的深度社会连接,以对抗数字化生存带来的原子化与孤独感。与此同时,通过媒体宣传,提升全民心理健康意识与情感沟通技能。这些措施旨在丰富个体在社会中能够获得的情感支持,使其拥有不止社交机器人伴侣,还包括亲友互助、专业咨询、社群归属在内的多种真实社会连接选择。多元社会情感支持系统的最终目标,是构建一个技术与社会支持相辅相成的健康情感生态。在这个生态中,社交机器人情感技术可以发挥积极作用,将用户导向更丰富、更真实的人际世界与专业支持网络。
参考文献:
[1]马歇尔·麦克卢汉,机器新娘:印刷文明的诞生[M].北京:中国人民大学出版社,2004.191.
[2]孙寿涛,张晓芳.断裂与弥合:数智时代Z世代“轻社交”行为分析[J].中国青年研究,2023(11):15-22+14.
[3]蒋俏蕾,凌绮.数智时代的“亲密”:媒介化亲密、亲密资本与亲密公众[J].山东社会科学,2023(03):87-96.
[4]梁亦昆.越界游戏:与GPT的“生死”爱恋及其示能之思[J].国际新闻界,2024,46(08):50-71.
[5]何双百.“机器同伴”:新型亲密关系下的“人机共情”现象思考[J].西南民族大学学报(人文社会科学版),2021,42(07):185-192.
[6]赵敏,甘颖琦.“虚拟恋人”爆火及未来规范发展路径探析[J].新闻研究导刊,2022,13(06):46-49.
[7]李宏,王国丽.交往与异化:人机交往中的关系生成和边界[J].现代传播(中国传媒大学学报),2025,47(10):149-158.
[8]蒋艺瑶,旷越,黄予函,等.机器朋友:人机交互中的主体性困境探究:以微博社交机器人“评论罗伯特”为例[J].山东科技大学学报(社会科学版),2025,27(01):11-22+31.
[9]陈阳,吕行,杜莉华.社交线索革新:生成式社交机器人的人机互动联合效应:对微博“评论罗伯特”的修正性计算扎根与QCA分析[J].传媒观察,2025(01):31-43.
[10]张晓辉,孙菁苓.对虚拟AI言说:用户对聊天机器人的情感联系探析:以软件Replika为例[J].现代传播(中国传媒大学学报),2023,45(09):124-133.
[11][13][14]曾一果,曹境.“赛博恋人”:人机亲密关系的建立及其情感反思[J].苏州大学学报(哲学社会科学版),2023,44(01):173-183.
[12][15]洪杰文,黄煜.“制造”情感:人机情感的生成逻辑与隐匿性困境[J].新闻大学,2024(01):61-77+121.
[16]王亮.社交机器人“单向度情感”伦理风险问题刍议[J].自然辩证法研究,2020,36(01):56-61.
[17][19]雪莉·特克尔.群体性孤独 [M].杭州:浙江人民出版社.2014:136,20.
[18]秦宏.迈向具身智能:机器表演的真实感、表演性与情感连接[J].民族艺术研究,2025,38(06):129-137.
[20]蓝江.从现实性到实在性:人工智能时代的虚拟性和实在性的关系刍议[J].中国文艺评论,2024(04):18-23+125.
本文系2026年河南省社会科学院基本科研业务费项目“数智社会青年人机情感实践的生成逻辑与伦理困境研究”(编号26E199)和2025年河南省哲学社会科学规划项目“文旅融合背景下河南博物馆高质量发展的传播模式研究”(编号2025XWH114)的阶段性成果。
(作者系河南省社会科学院,博士)
【责任编辑:马玉】

苏公网安备32021102003507号