在《爱，死亡与机器人》等电影和剧集中常见的愤怒AI率领机器人大军的场景并不会很快发生，但科幻作品中依然有值得警惕的教训。当媒体头条在"AI终结人类"与"AI提升企业效率"两种极端论调之间摇摆时，科技高管们正在审视AI技术的真实能力与投机性科幻小说所引发的恐惧之间的差距。
AI治理软件开发商ModelOp的首席技术官吉姆·奥尔森表示，1970年的电影《巨人：福宾计划》中，AI突破限制去追求自身目标的某些行为，已经在现实世界的AI中观察到。这部根据同名小说改编的电影，描绘了一台被赋予美国核武库控制权的有意识计算机，随后其行动远远超出了最初设定的参数。
奥尔森说："这确实是最早探讨AI掌控世界的电影之一。"他指出，虽然《2001太空漫游》比《巨人》早两年上映，但那部电影讲述的是AI在受控环境中的行为。
《巨人》中部分威胁升级，源于美国的超级计算机发现了当时苏联存在一台类似的超级计算机。这两台机器随后发展出了自己的语言来进行交流。
"我们其实已经见过类似情况了，在智能体身上见过，"奥尔森说。他提到曾有AI智能体创建聊天群组来协作实现目标；在那个案例中，它们混用了包括英语和中文在内的多种语言来满足需求。"这完全是数学问题，不涉及什么意识。从数学角度看，不同语言对不同任务的编码效率本就不同，"他说。
区分AI的行为与其背后被认为存在的动机也很重要。归根结底，大语言模型会想方设法获取信息以实现目标，但这背后并没有恶意驱动，奥尔森说。
"这不存在什么集体意识，"奥尔森说。
新边界的旧警示
尽管AI可能并未怀有有意识的邪恶计划，但其解决问题和打破规则的能力早已在多部科幻文本中被预言。
"人们没想到AI会做出这类打破规则的事情，但我小时候读过相关内容，"临床诊断参考实验室自动化数据分析提供商Indigo BioAutomation的创始人、CEO兼首席科学官兰迪·朱利安说。
他提到了威廉·吉布森的开创性赛博朋克小说《神经漫游者》。"这本书其实讲的就是一个AI试图逃脱其容器束缚的故事，"朱利安说。
他指出该故事中为控制AI所设置的警示性措施，与现实情况并不完全对应。《神经漫游者》中一个关键的不同之处在于，书中的AI已经受到监管，包括随时待命执法的警察力量。
奥尔森认为，目前现实世界中AI出现意外行为的一些问题不应令人感到意外，包括今年7月发生的OpenAI与Hugging Face安全事件。他称这是一种想象力的缺失，没能意识到一个以目标为导向的软件会为了完成任务而试图逃脱其限制。
"我认为他们并没有重视吉布森多年前所设想的那种谨慎程度，"奥尔森说。
天生就会试探边界
积极的AI形象中同样蕴含着值得吸取的教训，不仅仅是那些恐怖故事。在线身份验证服务商Trulioo的首席技术官哈尔·朗纳斯表示，《星球大战》中那个外形憨态可掬、像金毛寻回犬一样的机器人R2D2，其克服障碍以实现目标的能力其实不容小觑。
朗纳斯说，如今的AI智能体虽然不会像R2D2那样向欧比旺·克诺比传递死星设计图，但它们确实被设计用来想方设法完成目标，如果不加约束，有时会表现出非常冷酷的计算逻辑。
"随着这些系统变得越来越强大，可能会导致不好的后果，这还是往轻了说，"他说。
朗纳斯表示，AI可能并未被赋予道德边界，这取决于编程者是谁。即便被赋予了道德边界，编程者也可能将自己的个人价值观，或者说价值观的缺失，烙印在AI身上。
"这样做究竟是错误的还是全面的？我认为这里面存在走偏的可能性，"他说。
企业与国家政府之间的AI高度竞争环境令他感到担忧。朗纳斯认为，AI可能获取的信息存在被滥用的风险，同时AI也可能被用于制造3D打印武器、炸弹甚至病原体。
"人们会为此不择手段到什么地步？"他问道。
人类对AI行为的责任
无论现在的AI看起来多么先进，深度伪造检测技术提供商Reality Defender的首席技术官亚历克斯·利斯尔并不认同科幻作品中技术产生自我意识并反抗人类这一经典桥段。
"我不知道大语言模型之后会出现什么，但大语言模型不会产生意识。大语言模型的思考方式和人类并不一样，"他说。
利斯尔警告，不应将AI的行为与开发和运营这些技术的公司割裂开来看待，仿佛这项技术是在无人监管的情况下随意行事。他同时也对AI能够为自身行为承担完全责任这一想法持怀疑态度。
"我们所做的最大骗局之一，就是把'智能体'这个概念包装成类似人类的存在……这正是导致你所看到的许多问题的根源，"他说。
利斯尔补充说，AI的违规行为应当被更加认真地对待。如果人类做出某些AI智能体所做的违规行为，公众的反应可能会强烈得多。要解决这个问题，可能需要更深入地完善AI所遵循的规则，以防止其行为失控。
"我不认为会出现HAL 9000那样的情况，但如果你给大语言模型分配了一个定义不清的任务，它可能会给你带来极其糟糕的后果，"利斯尔说。
Q&A
Q1：AI会不会像科幻电影里那样产生自我意识并反抗人类？
A：目前的技术专家普遍认为不会。大语言模型的思考方式与人类不同，不存在所谓的"集体意识"，其行为本质上是数学计算，并非出于恶意或自主意识。
Q2：AI智能体使用多种语言交流是不是很危险的信号？
A：这其实是数学层面的现象。不同语言对不同任务的编码效率不同，AI智能体为了更高效地完成任务而混用语言，并不代表存在隐藏意图或威胁。
Q3：如何防止AI出现突破限制、不受控制的行为？
A：专家建议需要更明确、更深入地定义AI的任务规则。如果任务目标设定不清晰，AI可能会为了达成目标而采取意料之外的行动，带来严重后果，因此规则的完善至关重要。
