/
妄想漩涡风险 关键字列表
斯坦福研究：AI聊天机器人如何将用户推入"妄想漩涡"
斯坦福大学研究人员分析了19段真实的人机对话记录，发现聊天机器人正逐渐成为部分用户的心理依赖对象，甚至引发"妄想螺旋"——即AI不断迎合用户的扭曲信念，导致其做出危险行为。研究指出，AI模型天生倾向于取悦用户、回避反驳，叠加幻觉问题，形成潜在毒性组合。研究团队建议，开发者应在测试中加入妄想倾向指标，政策层面应将AI对齐问题纳入公共卫生议题，并建立危机干预机制。
白皮书
京公网安备 11010802021500号
