SafeWorld是一家专注于机器人安全仿真技术的AI实验室，近日宣布结束隐身模式，完成1220万美元种子轮融资。本轮融资由Shine Capital和a16z Speedrun联合领投，Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors、SV Angel等多家风险投资机构及天使投资人参投。
SafeWorld的平台为企业提供安全测试与仿真软件，帮助企业安全、负责任地评估和部署机器人。
机器人的安全难题
此前，AI安全问题大多停留在软件层面的讨论。但当AI开始控制机器人时，一旦出现故障便可能带来实际的物理后果。未来几十年内，数十亿台搭载AI的机器人将与人类共同工作和生活。
与过去那些确定性强、依靠硬编码运行的机器人不同，物理AI需要数量级更高的安全测试和边缘场景仿真。目前行业普遍依赖的测试方式是物理实测，这种方式成本高昂、效率低下，难以扩展到海量边缘场景。
为应对这种不确定性，部署方往往不得不采用物理围栏和限速措施，这在很大程度上限制了机器人的生产效率以及人机协作的可能性。如果要让自主系统的应用规模扩展到数十亿台设备，安全验证能力也必须同步扩展。
Anyware Robotics首席执行官Thomas Tang表示：“安全一直是Anyware Robotics从创立之初就坚持的基石。”
“像SafeWorld这样先进的仿真工具，让我们能够以可扩展的方式测试各种具有挑战性的场景，强化我们的安全流程，并让我们的机器人更好地为真实世界的部署做好准备。”
SafeWorld的解决方案：机器人安全仿真助力企业在物理世界部署AI
更强大的机器人需要更强大的测试方法。
SafeWorld为企业提供了一种可扩展的方式，用于测试机器人在罕见、危险和突发情况下与人类互动时的表现，同时不会让任何人置身于真实风险之中。
团队可以直接在浏览器中，根据过往事故、安全标准和机器人日志搭建测试场景，无需具备仿真专业知识。
随后，SafeWorld会让机器人在仿真环境中经历成千上万种变体场景，模拟真实且具有反应性的人类行为，并对其安全表现进行评估。
由于每一次软件更新和新环境都可能带来新的风险，团队可以持续反复运行这些测试，而不仅仅是在产品上线前测试一次。最终形成的安全记录，能够让工程、安全和运营等各部门负责人都放心信赖。
Shine Capital普通合伙人Alex Hartz表示：“随着物理世界越来越多地实现自动化，安全必须成为一层持续、智能的保障机制，与机器本身同步演进。”
“SafeWorld兼具AI与机器人安全领域深厚的技术积累，以及打造物理AI时代独立安全基础设施的雄心，这种组合十分难得。”
a16z Speedrun普通合伙人Jon Lai表示：“AI的影响力正在远远超越软件领域，并开始对物理世界中的硬件和机器人产生深远影响。”
“SafeWorld团队将世界一流的安全AI研究能力，与出色的商业执行力结合在了一起。”
“通过将安全测试从人工现场试验转变为自动化、高保真的仿真测试，SafeWorld正在构建部署下一代自主机器所必需的信任基础。”
SafeWorld团队
SafeWorld由一支研究人员和创业者团队共同创立，核心成员包括：
Ding Zhao博士：卡内基梅隆大学安全AI实验室主任，曾任谷歌DeepMind研究员，美国国家科学基金会职业奖获得者，在安全自主系统领域深耕超过17年。
Kyle Wong：资深连续创业者，此前创立了AI与用户生成内容（UGC）平台Pixlee，该平台被超过1000个品牌使用，他带领公司从初创走向被收购。此后，他出任斯坦福大学创业加速器StartX首席执行官。
Simo Rachidi：连续创业者，曾任Salesforce Einstein首席安全与机器学习工程师，负责架构企业级数据管道和每日处理海量数据的机器学习系统。在加入Salesforce之前，Rachidi曾创立多家涉及机器学习和消费领域的初创公司。
Ding Zhao博士表示：“近二十年来，我一直致力于提升自主系统的安全性。”
“从自动驾驶汽车中得到的一个重要教训是，仅靠真实世界测试无法覆盖所有危险情况。”
“随着机器人进入工厂、仓库及其他人类活动场所，仿真技术为我们提供了一种方式，可以在危险情况真正发生之前进行测试。AI界目前应用于模型的严谨标准，如今也需要应用到由这些模型控制的机器上。”
SafeWorld联合创始人兼首席执行官Kyle Wong表示：“随着机器人技术从令人印象深刻的演示走向日常实际部署，安全性正成为其被广泛采用的前提条件。”
“我们相信，更现代化的安全测试与验证方式，有助于释放机器人技术更大的潜力。”
目前，SafeWorld正与多家主要汽车制造商、仓储自动化领军企业以及医疗器械制造商积极开展早期试点合作。
除上述投资方外，本轮获得超额认购的融资还包括Ovo Fund、Valkyrie、Zelda Ventures、Alpha Square Group、Founders Future、Brave Capital，以及来自英伟达、谷歌DeepMind、Waymo、Meta、DoorDash、Generalist、Dyna、Recursive、Together AI和Salesforce的创始人及高管。
Q&A
Q1：SafeWorld是做什么的？
A：SafeWorld是一家开发机器人安全仿真技术的AI实验室，为企业提供安全测试和仿真软件，帮助企业安全、负责任地评估和部署机器人，使机器人能够在真实世界中更放心地与人类协作。
Q2：SafeWorld获得了多少融资？投资方有哪些？
A：SafeWorld完成了1220万美元种子轮融资，由Shine Capital和a16z Speedrun联合领投，参投方包括Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors、SV Angel等多家机构及个人投资者。
Q3：SafeWorld的仿真技术具体是如何测试机器人安全性的？
A：团队可以在浏览器中根据过往事故、安全标准和机器人日志搭建测试场景，SafeWorld会让机器人在仿真环境中经历成千上万种变体场景，模拟真实的人类反应行为，并持续评估机器人的安全表现。
