特斯拉全自动驾驶系统 v14.3.6 在高速行驶中突然试图驶向一个已经错过的出口,险些将车辆送入路边沟渠。

事发当晚,车辆正以110公里/小时的速度在魁北克莫里斯地区的55号高速公路上行驶,系统版本为特斯拉目前最新硬件上运行的FSD(监督模式)v14.3.6。

当时路况堪称理想:干燥路面、双向无车、清晰的车道标线、反光路面标识一应俱全。正是FSD发挥最佳的环境。车辆在右侧车道匀速行驶,刚刚驶过217出口的龙门架下方,系统突然打开右转向灯并向路肩方向偏移,屏幕上依然显示"自动驾驶"状态。

问题在于,这个出口的匝道入口已经在车后方,系统在这个速度和位置下执行转向,将会把车直接带入路沟。速度表从110开始下降:109、107、104——系统已下定决心执行操作。就在这一刻,驾驶员抓住了方向盘。车速降至102公里/小时时,屏幕上的"自动驾驶"标识熄灭。坐在副驾驶的女友因惊吓而尖叫出声。

这不是轻微的车道偏移,也不是短暂的犹豫——车辆主动打灯并试图驶入一个根本不该进入的出口。

如果要为特斯拉的系统设计一个最容易通过的测试场景,这条路就是答案:双向分离的高速公路、夜间行驶(对面来车灯光和车道反光带清晰可辨)、路上没有其他车辆、车道标线清晰、路牌照明充足。

根据此前对v14版本的观察,夜间空旷高速路正是该系统表现最出色的场景。在相同条件下,此前已累计行驶数千公里未曾干预,这种长期顺利的体验催生了信任——而这种信任本身就是陷阱。

两个半月前,笔者曾发文指出,FSD v14的出色表现正让驾驶员产生危险的麻痹心理。当时写道:"一个近乎完美运行的系统会制造一个陷阱——驾驶员对它的信任程度恰好足以让他们停止注意,但它仍会在不可预测的时刻出现严重失误。"这一判断在那个周日夜晚得到了印证。两次关键干预之间行驶数千英里,工程上确实令人印象深刻,但这段距离也恰恰足以让大脑停止主动扫描路况。

特斯拉自己的v14.3.6版本发布说明显示,公司"升级了FSD神经网络训练中的强化学习阶段",使用MLIR重写了AI编译器以实现"20%更快的反应速度",并改善了系统对降级状态的响应,"减少不必要的脱离"。脱离次数的减少,可能来自软件的进步,也可能来自驾驶员减少了干预——特斯拉没有公布任何能让外界区分这两种情况的数据。

而现有的公开数据同样不令人放心。特斯拉曾在单月内向美国国家公路交通安全局报告了创纪录的207起Autopilot和FSD相关事故,并且在其自2019年以来提交的3763份驾驶辅助事故报告中,有99.9%的叙述内容遭到涂黑。与此同时,马斯克仍在向投资者承诺无监督FSD将于年底在美国大范围普及,而Waymo联席CEO则持续解释为何纯视觉方案难以满足真正无人驾驶系统的需求。

一次险情是个例,不构成数据,但它是一个值得重视的提醒:驾驶辅助系统仍需驾驶员保持专注。

就目前而言,特斯拉FSD v14确实是一款令人印象深刻的产品。当然,若与当初的承诺相比——成为无需监督的完全自动驾驶——它距离目标还差得很远,甚至可能永远无法实现,这一承诺问题仍然存在,或许是特斯拉有史以来最糟糕的一步棋。

但若将这一点搁置,把FSD视为一套点对点的驾驶辅助系统,它确实已经做到了令人叹服的程度。

然而,正是这种出色,滋生了麻痹。马斯克曾公开表示用户"使用FSD时可以看手机",这显然是极不负责任的言论。随着系统性能的提升,特斯拉更需要加强对驾驶员的警示教育,而不是助长麻痹情绪。

Q&A

Q1:特斯拉FSD v14.3.6在这次事故中具体发生了什么?

A:车辆以110公里/小时的速度在高速公路右侧车道行驶,经过217号出口龙门架后,FSD系统突然打开右转向灯并向路肩方向偏移,试图驶入已经错过的出口匝道。由于该动作在错误的时间和速度下执行,若不干预将直接冲入路沟。驾驶员在车速降至104公里/小时时及时接管方向盘,才避免了事故发生。

Q2:特斯拉FSD的麻痹效应是什么意思,为什么会危险?

A:麻痹效应是指FSD系统长期表现稳定,使驾驶员逐渐放松警惕、减少主动监控的心理现象。由于系统在数千公里内无需干预,驾驶员大脑会形成"系统可靠"的惯性,在关键时刻反应变慢。然而FSD仍会出现不可预测的严重失误,而此时驾驶员已经不再处于高度戒备状态,干预不及时可能酿成事故。

Q3:特斯拉FSD的事故数据公开情况如何?

A:特斯拉曾在单月内向美国国家公路交通安全局报告了创纪录的207起Autopilot和FSD相关事故。但在其自2019年以来提交的3763份驾驶辅助事故报告中,有99.9%的具体事故叙述遭到涂黑处理,外界无法获知详细信息,也无法判断事故减少究竟是系统改进还是驾驶员减少干预所致。

Electrek