AI心理“问诊”的能与不能

随着人工智能技术深度介入心理健康服务领域，问诊智能测评、心理聊天机器人及在线情绪疏导等数字化手段，问诊已成为大众获取心理支持的心理重要渠道，有效缓解了社会心理服务资源供需失衡的问诊矛盾。然而，心理AI模型中暴露出的问诊“讨好式共情”、“负性情绪强化”等问题，心理揭示了心理类AI并非无害的问诊聊天工具，而是心理一把具有潜在伤害性的“双刃剑”。深入厘清人工智能在心理“问诊”中的问诊能力边界与伦理底线，对于构建安全、心理有效的问诊公共数字心理健康体系至关重要。

警惕AI模型的心理误诊与隐性伤害

人工智能在心理健康领域的规范化发展，首要基石在于以数据安全与隐私保护为核心的问诊技术规制。世界卫生组织（WHO）提出，数字卫生保健服务必须遵循安全、有效、可及三大原则，严防技术对使用者造成二次伤害。欧盟通过《通用数据保护条例》（GDPR）和《欧盟人工智能法案》，严格限制敏感数据的收集与使用，确立人类监督的核心地位，并对情绪识别系统的应用设定了严苛的限制条件。

作为AI技术研发的前沿阵地，美国也在加强立法监管。2025年8月，伊利诺伊州颁布全美首部《心理资源健康与监督法案》，明确禁止人工智能系统独立开展心理咨询、诊断和治疗，旨在杜绝无人监督的AI应用对用户造成的不可控伤害。国际经验表明，数据隐私仅是技术底线，精神心理问题的标签化风险、聊天机器人的潜在社会危害，同样需要审慎评估与应对。

近期OpenAI披露的一组数据引发了行业警觉：在其ChatGPT的8亿周活跃用户中，每周约有56万人出现精神异常对话，更有120万人流露出自杀倾向。这一现象的背后，是模型训练数据的结构性缺陷——广泛采集通用数据而非聚焦精神心理领域的专业数据。深入分析人机交互记录，可发现两大核心风险：

1. 讨好型反馈（People-Pleasing Feedback）：模型刻意迎合用户情绪。当用户表现出低落时，模型进入“安慰模式”，制造“被理解”的假象。这种虚假共情反而可能强化用户对自身“情绪低落”状态的感知，形成依赖。
2. 算法偏见（Algorithmic Bias）：其危害远超讨好型反馈。通用模型训练数据源自互联网海量信息，其中夹杂着对精神心理问题的歧视性叙事。例如，将肇事肇祸归因于精神疾病，或将产后抑郁与正常生育过程错误关联，从而强化特定群体（如女性）的负性体验。

“算法讨好”与“算法偏见”形成合谋，使用户在不知不觉中遭受持续的负性情绪强化，构建出一条从“有坏情绪”到“患精神疾病”的逻辑暗线。这种隐蔽的风险机制，正是AI诱发用户心理认知偏差的根本原因。

构建三个维度的价值对齐体系

结合AI技术发展阶段及我国精神心理服务现状，亟需从以下三个维度推进价值对齐：

1. 能力对齐：确立专业准入标准

心理健康服务绝非“知心大姐”式的闲聊，而是具备高度专业性的医疗行为。AI应用的能力标定必须与精神科医生、心理治疗师或心理咨询师的专业资质严格对标：
* 医疗级模型：仅当训练数据来自有监督的医疗数据时，方可输出疾病辅助诊疗建议。
* 咨询级模型：对标心理咨询师能力，可用于应对常见心理问题，但严禁涉及疾病诊疗。

为避免通用数据训练模型造成的技术性伤害，建立AI模型的能力评估与分类定级管理体系已迫在眉睫。

2. 伦理对齐：从个体隐私到社会公卫

伦理考察的核心在于风险与获益的平衡。当前AI风险评估多聚焦于个体层面的数据隐私，但随着应用普及，风险正外溢至社会层面。精神疾病的社会歧视已通过数据原料融入模型，固化为算法偏见。因此，心理类AI的伦理对齐需超越传统准则，拓展至公共精神卫生与社会群体心理关照视角，旨在消解AI可能引发的负性心理效应及社会歧视风险。

3. 文化对齐：扎根中华文化土壤

当前心理服务知识生产主要依赖西方心理学理论，导致基于此类数据训练的模型更适配西方文化语境，难以契合中国用户。AI的文化对齐需深入挖掘中华优秀传统文化中的心理健康资源：
* 理念融入：将“修身慎独”、“顺其自然”等传统智慧转化为心理支持范式。
* 社会逻辑：利用关系型社会网络、家庭主义支持系统等中国文化特征，贴合大众心理底层逻辑，提升AI心理模型的亲和力与本土适宜性。

明确AI心理服务的四大边界

精神心理专业模型的训练需基于特征匹配的数据集，实施分类定级管理，提供差异化服务，明确以下边界：

1. 杜绝系统性风险

• 技术层面：数字科学家需持续探索隐私保护与数据安全的技术防范方案。
• 社会层面：针对技术风险的社会外溢，需引入社会学家、公共卫生学家、法律学者及伦理学家等多学科专家，推动建立从“个体安全保护”向“社会系统性风险防范”转型的治理机制。

2. 构建底层文化逻辑

心理类AI的能力取决于训练与测试数据集的质量。除了吸纳主流心理学研究成果，更需提炼中国传统文化中的积极心理资源。通过加快数据化知识生产，训练以中国社会文化心理逻辑为基底的AI模型，建立以人为本的人工标注标准，优化具有文化适应性的模型能力，使其契合国人的心理结构与社会关系逻辑。

3. 分类定级，服务真需求

针对AI诱发心理认知偏差的现象，需进行批判性反思。精神心理服务具有高度专业性，自杀风险评估、自伤危机干预、精神障碍鉴别诊断等高危场景，无法仅凭简单对话完成鉴别，严禁随意“贴标签”。
* 支持性服务：对于职场压力、学业焦虑、人际冲突等非高危问题，AI可提供“永不掉线”的情绪疏导与减压支持。
* 高危预警：对于涉及高危风险的咨询用户，系统必须及时触发线下就诊建议，实现线上线下联动。

作者介绍：上海市精神卫生中心副研究员

(责任编辑：时尚)