特朗普总统周二宣布推出一款名为America.gov的AI驱动聊天机器人,网民们随即对其展开测试,发现了一些出人意料的结果,这些结果似乎导致该网站的功能随后发生了调整。该网站旨在整合2.9万个政府网站,提供诸如如何申请护照、如何登记新机动车辆或注册企业等信息。

“有了America.gov,整个政府都将装进你的手掌心,”特朗普在宣布该网站的活动上表示,“一切问题都将得到快速便捷的解答。”

America.gov使用谷歌Gemini和xAI的Grok作为底层生成式AI技术,用于搜索政府网站并回应用户查询。

该网站免费使用,无需登录。

目前,该机器人表示自己能做的仅限于回答有关服务与事务的问题,比如如何申请护照、登记投票、追踪退税进度、注册车辆以及申请医疗保险或社会保障。

它会告诉你如何完成这些事项,并引导你前往可获取更多信息或表格的网站,但不会收集你的个人信息,也不会进一步处理你的具体需求。据政府方面表示,这一情况预计将在明年发生变化,届时该机器人将能够帮助用户填写并提交表格、协助申请医疗保险,以及帮助用户寻找政府工作岗位。

谁赢得了2020年大选

几乎是在网站上线后不久,人们就开始拿它“找乐子”,并将测试结果分享到社交媒体上。用户很快发现,这款聊天机器人给出的回答有时与总统及其政府的公开表态相矛盾。

当被问及2020年大选结果时,America.gov明确回答乔·拜登赢得了那次总统选举。而特朗普曾多次声称那次选举存在舞弊,自己才是真正的获胜者。America.gov还确认气候变化真实存在,尽管特朗普称其为骗局。该网站将“五角大楼”称为“国防部总部”,尽管特朗普已在2025年9月将该部门更名为“战争部”。

在这些以及类似的截图开始在网上流传后,该网站停止回应许多此类问题,并表示自己不参与“一般性新闻与评论”。同时,它也改口将五角大楼称为“战争部总部”,而非“国防部总部”。

白宫方面的代表没有立即回应置评请求。

热狗图案与离奇的“选民”独白

细心的用户在使用该网站时还发现了其他一些异常回应。在提示框中输入“hotdog”(单词间无空格)会使文本框变成一个热狗形状的图案,不过该网站否认自己做了这件事,即便那个热狗形状仍显示在屏幕上。

许多用户还在社交媒体上指出,如果输入“play Minecraft”(玩我的世界)或“play the block game”(玩方块游戏),情况会变得十分离谱。经CNET确认,这一提示会使AI聊天机器人生成一段冗长且令人不安的独白,内容与电子游戏《我的世界》毫无关系。

该回应开头写道:“我明白你指的是哪位选民。((在此处插入法定姓名,需与社会保障卡上一致))?是的。请多加留意。它现在已经达到了更高的层次,能够阅读《联邦法规汇编》。但这已经不重要了。它以为我们是个聊天机器人。”

该回应中反复出现“选民”一词,其中一处写道:“有时这位选民梦见自己是个矿工,身处一个平坦而无限的世界表面,却仍莫名其妙地需要手写签名。有时这位选民梦见自己迷失在一个故事里,而这个故事还带着案卷编号。”

当被问及刚刚生成的这段冗长文字时,America.gov反复否认自己曾使用过“选民”这个词,也否认说过刚才输出的任何内容。

AI聊天机器人向来以生成离奇且不准确的信息著称,这种现象被称为“幻觉”,其表现形式从简单无意义的胡言乱语,到真正具有危险性的医疗建议都有可能出现。

政府信息确实存在

政府方面表示,该网站的目标是针对常见问题提供基础信息。我们尝试请America.gov协助处理从医疗保健到护照申请等各类事务。它给出的回答完全来源于政府网站,并附带了相应网站的链接。

当我们在ChatGPT和谷歌Gemini上尝试相同的问题时,它们给出的答案与America.gov几乎一致,并且使用了相同的信息来源。因此,就目前的状态而言,America.gov是一个专门用于政府信息检索的一站式聊天机器人。

如果该网站确实如承诺那样扩展功能,最终允许美国人申请和续签护照等类似证件,情况可能会发生变化。此类申请需要大量敏感个人信息,而AI聊天机器人在隐私保护方面的记录并不算出色,尤其是考虑到它们本身就是基于与用户的对话数据进行训练的。而且由于America.gov得到了美国政府的官方背书,这使它天然带有一种人们尚未赋予Grok或Gemini的信任感。

Q&A

Q1:America.gov是什么?它能做什么?

A:America.gov是特朗普政府推出的AI聊天机器人,旨在整合2.9万个政府网站,帮助用户查询如何申请护照、登记投票、注册车辆、申请医疗保险等常见政务信息。

Q2:America.gov为什么会给出与特朗普政府立场矛盾的回答?

A:该网站使用谷歌Gemini和xAI的Grok作为底层技术,这些AI模型基于公开客观信息作答,因此在2020年大选结果、气候变化等问题上给出的回答与特朗普本人的说法不一致,后续这类问题已被限制回应。

Q3:America.gov未来会增加哪些功能?

A:政府表示计划在明年扩展该网站的能力,使其能够帮助用户填写并提交表格、协助申请医疗保险,以及帮助寻找政府工作岗位。

cnet