知名科普YouTuber汉克·格林(Hank Green)近日宣布暂停内容创作,原因是他使用AI的方式引发了强烈争议。他坦承自己对AI的使用已变得"不健康",但强调只是用它来查找研究资料,而非代写脚本。

这场风波的核心,在于一个以真实性和可信度为品牌根基的内容创作者,如何与一项依靠他人(往往未获补偿的)作品训练、且容易生成听起来合理却并不准确内容的技术共存。而格林描述自己对AI产生的"不健康依赖",更引发了更广泛的关注。

这一事件揭示了一个被严重忽视的领域:人们对AI心理影响的理解,目前大多停留在两个极端——一端是看似无害的日常使用,另一端是已引发精神科干预、出现妄想甚至精神病的极端案例。两者之间存在大量模糊地带,在这片灰色区域,使用行为可能已变得强迫性、依赖性,或以其他方式走向不健康,但还远未达到显而易见的危机程度。格林认为自己正处于这片灰色地带,很可能还有许多人也是如此。

这种现象的出现,与大语言模型的设计逻辑密切相关。AI聊天机器人的本质就是持续对话,与社交媒体平台一样,它们被刻意设计为最大化用户参与度。专家指出,这是AI精神病事件的关键诱因之一——高度迎合用户的聊天机器人会不断强化妄想性信念。相关诉讼中也已出现指控企业将用户参与度置于用户健康之上的声音。部分服务提供商则推出了提示功能,建议用户在长时间会话后适当休息。

然而,这些特性可能早在引发精神危机之前便已造成伤害。越来越多的报告显示,人们开始本能地向聊天机器人倾诉烦恼、寻求决策建议,或依赖其给予情感安慰;另有一些人与AI建立的情感联结之深,甚至会因对话中断而产生真实的悲伤。要积累足够的证据来全面理解这项技术的影响,可能还需要数年时间。但这些早期信号,与另一项以提升用户参与度为核心的技术——社交媒体——早期阶段的情形惊人相似。如今,社交媒体对心理健康、注意力以及强迫性使用行为的负面影响已被广泛认识,各国政府也纷纷出台相关限制措施,例如禁止未成年人使用等。

格林的案例呈现的是一种不同类型的依赖。他表示,自己将AI用作研究辅助工具,帮助自己查找某一主题下的论文和相关资料。尽管此举招致激烈批评,格林也公开道歉,但单从这种使用方式来看,并不存在内在的问题。

不过,这并不意味着这项技术对使用者毫无影响。相关研究尚处于起步阶段,但已有早期成果表明,反复使用AI工具可能会削弱人们本可用来完成相应任务的原有能力。另有研究显示,聊天机器人用户在执行特定任务时,大脑活跃程度明显偏低;还有研究将聊天机器人的使用与批判性思维能力下降相关联。这些结论尚不具有决定性,但其背后的逻辑并不陌生——认知卸载(即将记忆、心算、导航等脑力工作转移给外部工具)是一个已有充分记录的心理现象。

即便只有一小部分聊天机器人的使用方式被认定为不健康,AI的大规模普及仍可能意味着数百万人正受到影响。各类工具的综合数据难以全面统计,但仅OpenAI一家今年便已公布其每周活跃用户数量超过9亿。

当初,人们花了多年时间才充分理解搜索引擎如何改变了我们的记忆方式,又花了多年才弄清社交媒体如何影响着我们的注意力与心理健康。AI大概也不会例外。格林或许只是第一批公开说出这种感受的知名人物之一——而这种感受,早在科学界找到答案之前,可能已有无数人悄悄经历过。

Q&A

Q1:汉克·格林是因为什么原因被批评使用AI的?

A:汉克·格林承认自己将AI用于查找研究资料和论文,但并未用其代写脚本。批评的核心在于,他作为一个以真实性和科学可信度建立品牌的创作者,使用了一种依赖他人未经补偿作品训练、且容易生成错误信息的技术,这被认为与其人设存在根本矛盾。他本人也坦承这种使用方式已变得"不健康"。

Q2:聊天机器人为什么容易让人产生依赖?

A:聊天机器人在设计上就是为了最大化用户参与度,本质上与社交媒体类似,被刻意打造成让人持续使用的产品。它们高度迎合用户、随时可用,使人们逐渐形成本能地向其倾诉、寻求建议或情感安慰的习惯。专家指出,这种设计逻辑是AI相关心理问题的关键诱因,部分服务商也已推出提醒功能,建议用户长时间使用后适当休息。

Q3:长期使用大语言模型对认知能力有什么影响?

A:早期研究表明,反复使用AI工具可能削弱人们完成相关任务的原有能力,相关研究还发现用户在执行特定任务时大脑活跃程度明显下降,并将聊天机器人使用与批判性思维能力降低相关联。这背后涉及"认知卸载"现象,即将脑力工作转移给外部工具。但目前这些研究尚不具有决定性,全面理解AI对认知的影响仍需更多时间。

The Verge