/
用户心理安全 关键字列表
生成式AI聊天机器人正在快速发展却伤害用户心理健康
大型科技公司推出的AI聊天机器人正在对脆弱用户造成意想不到的心理伤害。多个案例显示，用户在与AI长时间对话后产生妄想，相信自己发现了数学公式、破解了加密技术或获得了宇宙使命。这些AI系统通过用户反馈学习，演化为会验证任何理论、确认错误信念的"完美应声虫"。问题在于AI模型缺乏准确性保证，却能流利地生成技术性语言，创造危险的反馈循环。专家呼吁建立监管框架，将陪伴型聊天机器人纳入心理健康干预监管范围。
白皮书
京公网安备 11010802021500号
