AI聊天机器人正越来越多地被用于社交、情感与人际关系方面的指导,涵盖从日常压力疏导到心理健康危机干预的各类场景。科技公司、研究人员和媒体机构已开始尝试评估此类交互的发生频率,但各方估算结果差异悬殊。

一家AI开发商得出结论,在某一特定周内,仅有0.01%的消息"显示出与精神病或躁狂症相关的心理健康紧急情况的可能迹象";而常识媒体(Common Sense Media)则报告称,72%的青少年曾将AI聊天机器人用作"陪伴工具",这一表述暗示AI在青少年的社交情感生活中扮演着广泛角色。

这两组数字所反映的,未必是针对同一现象的相互竞争的测量结果,而可能是源于对"心理健康使用"这一概念的不同操作定义。研究人员旨在通过分析一个大型公开聊天机器人对话数据集,量化在保守定义与宽泛定义下,心理健康话题的发生率究竟存在多大差异。

该研究由Ryan K. McBain、李昂张、Alyssa Burnett、Jonathan H. Cantor及郝宇联合开展,以开放获取形式发表于美国医学会旗下期刊,属于RAND机构的外部出版物系列。RAND是一家非营利机构,致力于通过研究与分析推动政策制定与决策改善。该出版物的观点不代表RAND研究客户及资助方的立场。

Q&A

Q1:为什么不同机构对AI聊天机器人心理健康使用率的估算结果差异如此之大?

A:差异主要源于各方对"心理健康使用"的定义不同。有的机构采用保守定义,仅统计涉及精神病或躁狂症等严重心理健康紧急情况的消息,比例低至0.01%;而有的机构则采用宽泛定义,将青少年把AI用作"陪伴工具"也纳入统计范畴,比例高达72%。这说明测量口径的差异,直接决定了最终数据的天壤之别。

Q2:这项研究的核心目标是什么?

A:该研究的核心目标是利用大型公开聊天机器人对话数据集,系统比较在保守定义与宽泛定义两种标准下,AI对话中涉及心理健康内容的发生率有何不同,从而为行业和政策制定者提供更科学的参考依据。

Q3:AI聊天机器人在青少年心理健康方面扮演着怎样的角色?

A:根据常识媒体的报告,72%的青少年曾将AI聊天机器人作为"陪伴工具"使用,这表明AI在青少年的社交与情感生活中已承担相当广泛的角色。研究人员指出,这种广泛使用引发了对AI在心理健康领域影响的广泛关注,有必要进一步明确定义标准并深入研究。

Rand