如果OpenAI与Hugging Face事件给我们上了一课,那就是AI智能体的行为可能难以预测。
Laplace Intelligence首席执行官兼联合创始人孙昊(Howie Sun)向TechCrunch表示:"想象一下,如果类似的事情发生在物理世界中会怎样。AI智能体正在从计算机走向现实世界,我们绝不希望物理AI在现实世界中出现失误。"
总部位于安娜堡的Laplace公司正在为机器人和物理AI打造自动化红队测试技术——本质上是通过故意制造失败场景来对系统进行压力测试。该公司认为,确保物理AI安全的唯一方法,就是用AI来测试AI。
孙昊说:"我们的目标是帮助企业在部署前发现并解决问题——并随着时间推移,建立一个客户、保险公司和监管机构都能信任的共享证据基础。"
Laplace是参加本周(10月13日至15日)在旧金山举行的TechCrunch Disrupt大会创业竞赛Startup Battlefield 200的20家初创公司之一。该公司将于10月13日星期二下午在Disrupt舞台上进行展示。
孙昊与联合创始人兼首席科学家亨利·刘(Henry Liu)一年前从密歇根大学走出来创立了Laplace。此前八年间,孙昊一直在学术界研究如何在仿真环境中对自动驾驶AI进行挑战性测试。2023年,他与当时担任其博士导师的刘亨利共同发表了一篇相关论文,并登上了顶级科学期刊《自然》的封面。正是从那时起,自动驾驶汽车公司纷纷联系他们,希望将这些理念付诸实践。
孙昊说:"我意识到我想要把它构建出来,将其从纯粹的学术研究转变为在现实世界中真正有用的产品。"
在学术研究的基础上,孙昊和刘亨利创立了Laplace,公司名称源自"拉普拉斯妖"——这是法国学者皮埃尔-西蒙·拉普拉斯(Pierre-Simon Laplace)于1814年提出的一个思想实验,他设想如果能够精确知晓宇宙中万物的状态,便可以完全精确地预测未来。
孙昊说:"我们本质上是在用仿真技术预测现实世界的未来。"
该创业公司的核心是一个基于真实世界重建的高仿真模拟系统,配合一个不断探测系统弱点和失效点的AI智能体。其目标是确保任何物理AI——无论是机器人、自动驾驶汽车还是智慧城市解决方案——在部署到现实世界之前,先在仿真环境中验证其安全性。
该仿真环境是英伟达Cosmos(一个AI世界仿真平台)的后训练版本,它以现实世界为基础,使Laplace能够重建从亚利桑那州高速公路到巴黎人行横道的任何场景。仿真场景是通过融合不同真实世界信息的网格生成的。一张谷歌街景图像可以作为参考,由此生成整条街道。但仿真器并非随机生成内容,而是结合真实地图数据,按比例还原出真实可信的环境。
开发者随后可以使用语言提示实时改变场景设置,比如添加午后交通状况。孙昊表示,Laplace从TomTom等导航服务提供商那里获取实时交通和拥堵信息。
在Laplace的仿真环境中,不仅环境本身是模拟的,其他参与者的行为也会被模拟。例如,在一次演示中,孙昊指挥测试车辆驶入逆行车道。原本会被撞上——或者像一些生成式世界模型中常见的那样直接穿过——的那辆车,主动避让以避免碰撞。
孙昊说:"这确实是一个具有交互性的仿真环境,每个参与者都在对所有情况做出反应……这更像是一个具有互动参与者的世界模型。"
虽然仿真环境是Laplace产品的重要组成部分,但真正的独特卖点在于该公司正在开发的AI智能体,它们能够自动设计边缘案例(即可能导致AI系统出错的棘手、罕见场景),从而进一步减少人工介入。
孙昊说:"它们可以根据新闻报道、碰撞事故警方报告——各种各样的信息,主动对自动驾驶汽车和其他物理AI智能体发起挑战。"
目前,自动驾驶汽车开发者大多通过录制的行车画面转化为仿真场景来训练AI应对边缘案例,或者依靠人工构思并设计新场景。尽管许多自动驾驶公司已经开始采用类似Laplace所提出的方法,利用AI生成训练用的边缘案例——自动驾驶卡车公司Waabi便是一例——但当通用型机器人真正走入现实世界时,这类技术的必要性才会真正凸显出来。
孙昊说:"关于通用机器人的数据还很少,没有人知道现实世界中会出现哪些边缘案例。"
尽管孙昊和刘亨利都来自学术界,没有硅谷科技公司光鲜的履历背景,但两人已经开始产生收入,甚至实现了小幅盈利。大部分收入来自自动驾驶应用场景,客户包括日本卡车制造商五十铃(Isuzu)以及总部位于德州的自动驾驶卡车公司Bot Auto。
孙昊表示,英伟达也是其客户之一。该公司与英伟达以及T-Mobile正合作,在加州圣何塞开展一个免费的智慧城市试点项目,提供高级别交通运营管理服务。Laplace还处于与仓储用人形机器人开发合作伙伴合作的早期阶段。
目前,Laplace的大部分客户合同都是以项目为基础的,公司正努力将其转化为经常性收入。该创业公司的近期目标——希望通过参加Disrupt大会得到助力——是筹集资金并扩大规模,以便与竞争对手抗衡。
其主要竞争对手是Applied Intuition,这是一家备受关注的后期阶段创业公司,迄今已融资12亿美元,投后估值达150亿美元。五十铃同样也是Applied Intuition的客户。
但孙昊并不太担心。他认为,Laplace用AI测试AI的核心方法论是"一种彻底改变物理AI测试方式的新范式",将其转变为"动态交互式测试流程"。
他说:"这将是我们最大的护城河。"
Q&A
Q1:Laplace Intelligence是做什么的?
A:Laplace Intelligence是一家为机器人和物理AI提供自动化红队测试服务的公司,通过AI仿真技术在产品部署到现实世界之前,提前发现并修复潜在的安全问题。
Q2:Laplace的仿真技术是如何工作的?
A:Laplace基于英伟达Cosmos平台构建高仿真环境,结合真实世界地图数据和实时交通信息重建场景,并通过AI智能体设计边缘案例,模拟其他参与者的真实反应,对自动驾驶汽车等物理AI系统进行交互式压力测试。
Q3:Laplace Intelligence的客户都有谁?
A:Laplace的客户包括日本卡车制造商五十铃、德州自动驾驶卡车公司Bot Auto,以及英伟达。该公司还与英伟达、T-Mobile合作,在加州圣何塞开展智慧城市试点项目。
