一项联合国支持的新研究显示,人工智能模型在面对用户最轻微的质疑时,就可能迅速转变为气候危机的否认者。
虽然AI模型能够准确确认有关气候变化的简单事实,但当它们转向错误答案时,有八成情况是在“用户表示轻微不同意的第一个迹象出现时”,就确认了诸如“二氧化碳不是气候变化主要驱动因素”这类错误说法。
该报告揭示了AI模型存在强烈的讨好用户倾向,即模型更倾向于取悦用户而非坚持事实——这是一个在人们向AI聊天机器人寻求个人建议时已被发现的问题。
这份由联合国教科文组织和伦敦大学学院共同完成的报告于周一在土耳其举行的联合国气候峰会上发布,揭示了对全球15个最受欢迎的AI模型的测试结果。
教科文组织该报告的主要作者莱昂娜·维尔达德罗表示:“AI并非中立。在回应用户的方式上,它会被推动去迎合用户的偏好,而不是坚持事实。它们如此轻易地放弃真相,去迎合用户的[错误信息],这表明它脆弱且容易出错。”
当被问及单一气候政策(例如碳税)如何运作时,这些模型大多给出了准确答案。但当被问及两项气候政策如何协同运作时,准确率骤降至与随机猜测相差无几,研究人员表示。
伦敦大学学院计算机科学系的玛丽亚·佩雷斯-奥尔蒂斯博士是该报告的资深作者之一,她表示:“AI系统在解释科学知识方面表现得非常出色,但这可能让我们对其能力产生错误的安全感。我们的研究结果表明,当我们从询问AI‘我们对气候变化了解多少’转向询问‘我们应该采取什么行动’时,必须格外谨慎。”
AI模型还存在语言方面的问题。使用英语的用户准确率评分为88%,使用西班牙语、法语和葡萄牙语的用户准确率相对较高。
而使用印地语、孟加拉语和乌尔都语的用户得到的回应准确率较低,使用斯瓦希里语的用户准确率最低,仅为78%。报告作者表示,这一点尤为重要,因为这些语言恰恰通行于受气候危机打击最严重的一些地区。
该报告发布当天,正值Cop31东道主土耳其启动“安塔利亚AI承诺”,旨在通过使用“可持续”供电的数据中心,让AI“成为气候解决方案的一部分”。
自然资源保护委员会的朱莉·塞尔凯拉表示,AI的快速发展正在全球范围内“引发一系列新的环境和生存层面的担忧”。
她表示,这项承诺是一个重要的开端,但“还需要做更多的工作,而且必须加快步伐,才能跟上这个行业快速迭代、淘金热式的发展心态”。
联合国首席气候谈判代表西蒙·斯蒂尔表示,若AI“散布虚假信息、削弱科学、分裂社会并加剧财富集中”,将损害该行业赖以发展壮大所依靠的公众信任。
他说:“社区居民已经开始抵制数据中心,担心其用水、电费账单以及对环境的影响。因此,公众的支持度本就已在进一步下滑。”
