当前，人工智能技术介入心理健康服务领域 ，智能心理测评、聊天机器人 、在线情绪疏导询问 等形式 ，成为大众获取精神心理支持的便捷途径，在一定程度上缓解了社会心理服务资源不足的供需矛盾。但是 ，其所暴露的讨好式共情 、负性情绪强化等问题 ，显示出心理类模型不是完全无害的聊天工具，而是具有潜在伤害性的“双刃剑” 。厘清人工智能心理“问诊”的能与不能 ，对于促进公共数字心理健康具有重要意义 。
谨防AI模型误诊
人工智能在心理健康领域发展规范 ，主要基于以数据安全与隐私保护为核心的技术规制。如世界卫生组织提出数字卫生保健服务应遵循安全、有效 、可及等核心原则，避免技术对使用者造成伤害 。欧盟《通用数据保护条例》和《欧盟人工智能法案》强调敏感数据保护 ，禁止无合法依据的收集和使用 ，明确人类监督的核心地位，对情绪识别系统的应用提出限制条件 。美国是人工智能技术研发与应用的前沿国家 ，2025年8月伊利诺伊州发布全美首张禁令——《心理资源健康与监督法案》 ，通过立法禁止人工智能系统开展独立的心理询问 、诊断和治疗，以避免无人监督的AI心理应用对用户造成伤害。世界 经验和教训表明，数据安全和隐私保护仅是技术底线 ，精神心理问题的标签化、聊天机器人潜在的伤害和社会影响等 ，同样需要加以谨慎评估应对 。
近期OpenAI曝光的一组数据显示，其旗下ChatGPT的8亿周活跃用户中 ，每周有56万人出现精神异常对话 ，更有120万人流露出自杀倾向 。该模型采用广泛采集的通用数据而非聚焦精神心理领域的专业数据。对大量人机交互对话进行分析，可以看出至少有两大风险：讨好型反馈和算法偏见 。讨好型反馈刻意迎合用户情绪 。譬如用户在与模型聊天中 ，表现出情绪低落时 ，模型会进入“安慰 ”模式，使用户产生一种“被理解 ”的感觉 ，这种共情能强化用户“情绪低落”的状态感知。算法偏见造成的危害甚于讨好用户产生的副作用 。通用模型训练数据往往来自散布在数字世界中的各类数据 ，其中夹杂着对精神心理问题的歧视性评判，譬如：精神病人肇事肇祸的报道将社会风险部分归因于精神疾病；产后抑郁的报道则将健康生育过程与抑郁症状建立起联系 ，可能强化女性围产期的负性体验 。算法讨好和算法偏见形成合谋 ，使用户在不自觉的情况下，遭受持续的负性情绪强化，形成一条“有坏情绪 ”与“患精神疾病 ”的逻辑暗线。这种不易察觉的风险 ，即是AI模型诱发用户心理认知偏差的发生机制。
三个维度的价值对齐
结合人工智能现实发展阶段及我国精神心理服务现状 ，提出三个维度的价值对齐倡议 。
一是能力对齐 。心理健康服务不是知心大姐“唠家常”，而是应具有高度专业性。精神心理类AI应用的能力标定需要与精神科医生 、心理治疗师或心理询问 师对齐 ，对标不同专业人士的模型可获得不同的服务准入资质 。如 ，训练数据来自有监督的医疗数据，该模型才可以输出疾病辅助诊疗相关建议；模型与心理询问 师能力对标 ，则可用于提供应对常见心理问题的询问 服务 ，但不能涉及疾病诊疗建议 。为避免基于通用数据训练的模型对使用者造成技术性伤害，AI模型能力评估和分类定级管理尤为紧迫。
二是伦理对齐 。伦理考察的基本问题是风险获益评估 。当前AI风险评估聚焦于数据安全 、隐私保护等 ，但随着应用的普及化 ，AI风险正从个体外溢到社会层面，精神疾病的社会歧视被系统性地通过数据原料的形式融入模型 ，固化成算法偏见。因此 ，心理类AI的伦理对齐，除了已形成共识的伦理准则，更要拓展至公共精神卫生、社会群体心理关照的视角 ，以消解人工智能导致的负性心理效应风险 。
三是文化对齐 。当前心理服务领域的知识生产主要依据西方心理学理论 ，基于此类知识数据训练的模型，更适用于西方社会文化心理场域 ，难以形成植根于中华文化认同的心理服务模型。AI的文化对齐 ，要深入挖掘中华优秀传统文化中所蕴含的心理健康资源，譬如将“修身慎独 ”“顺其自然 ”等理念作为心理支持范式 。又如 ，关系型社会网络 、家庭主义的支持系统等 ，彰显着中国文化特征，也更紧贴社会大众心理的底层逻辑 ，将有助于提升AI心理模型应用的亲和力和本土适宜性 。
明确AI心理服务边界
精神心理专业性的模型训练 ，需要根据开发目标获取特征匹配的数据集，训练形成具有不同能力的模型应用 ，并纳入分类定级管理 ，提供差异化服务。
一是杜绝系统性风险。数字科学家应对模型开发中的隐私保护 、数据安全等问题，从技术防范角度开展大量探索；而针对技术风险的社会外溢，则需要包括社会学家、公共卫生学家 、法律学者 、伦理学者等多学科专家参与共商 ，推动建立从个体安全保护转向社会系统性风险防范的机制 。
二是构建底层文化逻辑 。心理类AI应用的能力有赖于训练和测试数据集的质量 ，除了持续学习如今 主流心理学研究成果，还需要提炼中国传统文化中积极的心理资源 ，通过加快数据化知识生产 ，训练以中国社会文化心理逻辑为基底的AI模型，从而契合国人心理结构和社会关系逻辑 ，建立以人为本的人工标注标准 ，优化具有文化适应性的模型能力。
三是分类定级服务真需求 。AI模型诱发用户心理认知偏差的现象日益引起重视，这是对技术的批判性反思 。精神心理服务具有高度专业性 ，自杀风险评估、自伤行为危机干预、精神障碍鉴别诊断 、一般心理问题识别等等 ，难以仅凭用户与模型简单对话就轻易鉴别，更不能因此随意“贴标签”。支持性AI心理服务 ，如对职场压力 、学业焦虑、人际关系冲突等 ，可以提供“永不掉线 ”的情绪疏导 、减压调适支持，而对高危风险预警的询问 用户，则应及时触发线下就诊建议 。
（作者为上海市精神卫生中心副研究员）
（文章来源：上观新闻）
