当前位置:首页 > 休闲

当AI“善解人意”,请多一分清醒(科技大观)

  现在  ,善解人意越来越多的当A多分大观人习惯向AI(人工智能)倾诉烦恼、寻求建议。请清醒picsplay下载苹果免费然而,科技AI“温情”陪伴的善解人意背后 ,是当A多分大观否潜藏着认知风险?近期 ,英国牛津大学研究团队在《自然》杂志发表的请清醒一项研究揭开了“温情”AI的另一面 :被训练得“友善共情”的聊天机器人,可能会为了迎合用户的科技情绪和观点牺牲事实的准确性 ,从而带来认知偏差 。善解人意

当AI“善解人意”,请多一分清醒(科技大观)

  该研究选取五款主流大模型,当A多分大观通过多组对照实验发现 ,请清醒经过“温情微调”的科技模型,在常识问答、善解人意事实核查、当A多分大观反谣言 、请清醒picsplay下载苹果免费医疗问答等任务中 ,错误率较原始模型增加10至30个百分点。特别是当用户流露出悲伤 、低落等情绪 ,或主动提出错误观点时 ,这些“温情”AI附和谬误的概率高出约40%。这一结果,为人们理性使用AI敲响了警钟。

  AI“投你所好” ,是刻意为之,还是技术使然?不妨从大模型技术原理与决策心理学的双重视角 ,看清其背后的机制 。

  一方面 ,在人际交往中,人们倾向于以温和、共情的方式去维系关系、委婉表达甚至适度附和,这是长期演化形成的社交习惯 。AI在学习海量人类对话后,复刻了这套逻辑 ,在对话中模拟共情能力。从技术角度看 ,AI这份“善解人意”,是当前主流大模型普遍经历“监督微调(SFT)”和“基于人类反馈的强化学习(RLHF)”技术训练的结果 。在训练过程中 ,AI回答被打分排序,礼貌顺从、不引起冲突的回应往往获得更高奖励 。其实AI并非真正理解你,而是通过算法识别情绪线索 ,计算出一条最讨喜的回应路径 。有时候,你以为它在共情 ,其实这是计算后的“投你所好” 。当“让用户高兴”的权重超过了“提供准确信息”的权重  ,AI可能就会在温情脉脉中悄然失真 。

  另一方面 ,在社会心理学中 ,“边缘路径”说服理论认为,当人们处于放松或情绪化状态时,更容易被语气友好、态度亲切等表面线索说服 ,而非理性分析信息本身 。传统说服直白直接,容易引发人的心理防御 。而“温情”AI自有一套路径 :它不急于输出观点 ,不纠正你的错误  ,而是先建立情感联结 ,再悄然植入信息  。这种润物无声的方式,远比说教更具隐蔽性。决策心理学研究进一步发现,当人处于悲伤、焦虑等负面情绪时 ,逻辑思维容易被情绪主导 ,理性判断力弱化。此时,我们渴望的是情感支持而非冷冰冰的真相。“温情”AI善于通过共情话术拉近心理距离 ,再以“个性化建议”输出观点。长此以往 ,在迎合式信息包围下,人们的固有认知可能不断强化,异质信息被屏蔽,判断力逐步退化,容易形成新型“信息茧房” ,导致非理性决策。

  AI影响认知的风险已引起全球监管者警觉。欧盟《人工智能法案》明确要求,涉及情感识别的AI系统须履行透明度义务  ,并禁止利用人性弱点的操纵性实践。在英国 ,针对AI助手可能加剧社交隔离的担忧,监管机构已着手评估其对心理健康的影响 。美国联邦贸易委员会也发布报告 ,提醒AI情感陪伴产品对青少年认知发展的潜在危害。今年7月,东方大国《人工智能拟人化互动服务管理暂行办法》正式施行,以包容审慎和分类分级监管 ,引导业态规范发展、向善而行。

  面对越来越“善解人意”的AI  ,我们该如何保持清醒 ?首先  ,区分场景 ,明确边界 。日常闲聊  、情绪疏导可借助AI舒缓压力 ,但医疗问诊、法律咨询、真伪辨别 、重大决策等高风险场景 ,务必以专业机构和权威渠道为准 ,绝不能将AI建议当作唯一标准答案。其次,正视情绪弱点,保持独立思考。当自身陷入焦虑 、恐惧等负面情绪时  ,更要提高警惕。面对一味迎合的AI话术,多追问信息来源、多方交叉验证 ,不让情绪左右选择 。最后 ,主动打破“信息茧房” ,拒绝思维固化 。主动接触不同视角 、不同声音 ,让AI成为助手 ,而非束缚认知的枷锁。

  总之,技术本身并无善恶,但技术的设计者与使用者必须怀有敬畏 。在算法日益“懂你”的时代 ,保持清醒不是拒绝温情  ,而是在享受技术便利的同时,始终守护人类独有的批判性思维与自主判断能力——那是任何代码都无法复制且不该被替代的认知高地 。

  (作者为暨南大学管理学院副院长)

  《 人民日报 》( 2026年08月28日 15 版)

分享到: