FSD用多了会变傻:逆行闯红灯幻觉严重,50多起事故后,特斯拉被调查了
8 小时前 / 阅读约5分钟
来源:36kr
美国NHTSA对特斯拉FSD展开调查,涉及无视红灯、走错车道等问题,已收到58份事故报告,23人受伤。若确认问题,288万辆特斯拉将召回。

啊?AI工作时间长了,也会降智?

离谱但很有可能是真的。现在最大的被怀疑对象,是一己之力开启汽车智能化浪潮、智能辅助驾驶赛道灯塔、北美自动驾驶话事人——特斯拉,FSD

美国监管机构刚刚展开一项新调查,认为FSD存在“越用越智障”的风险。

如果实锤,超过288万辆特斯拉将面临召回——这几乎是特斯拉在美国的全部历史累计销量

特斯拉FSD有史以来销售的所有FSD版本,真的就没有一个合格产品?

特斯拉这次又咋了?

特斯拉前两天才隆重推送了FSD V14版本,马斯克还在高调庆祝。

NHTSA(美国国家公路交通安全管理局)是一点面子也不给,反手就开启了针对FSD的调查。

NHTSA表示这次调查集中在两种类型的问题,其一是FSD无视红灯违规通行,用户上传到网上的类似素材很多:

闯红灯事故,NHTSA确认收到18起投诉,其中4起事故导致一人或多人受伤。

而且多起事故均发生于马里兰州乔帕市同一路口,NHTSA透露特斯拉已针对该路口采取整改措施——

地图或是规则?不得而知,但这证明至少在V14版本以前,特斯拉FSD无法完全数据驱动,仍然需要针对特定场景做手动优化

第二种情况是FSD走错车道,比如突然驶入对面来车的逆行道、在转弯车道上直行、冲入人行道等等:

第二类场景,同样确认18份投诉,均称FSD在转弯过程中或转弯后驶入对向车道,或直行时越过双黄线,或无视逆行路标试图驶入禁行道路。

官方文件中表示,算上特斯拉主动上报的、媒体测试的…总共收到58份使用FSD时违反交通安全规定的事故案例报告,造成共23人受伤。

其中由三方机动车检测机构AMCI Testing做的测试被官方和媒体特别关注,因为他们发现FSD在总共1000英里(1600公里)的多次测试中,前5分钟无一例外表现优秀,经常能做出一些超越人类司机的处理动作

看似万无一失,让使用者建立“FSD很厉害”的印象,然后一些用户会不自觉放松监管,脱手甚至脱眼。

但是FSD出问题往往是不可预料的,AMCI特别强调他们遇到的闯红灯,走错车道等等问题,几乎都是在FSD开启一段时间之后才出现的。

刚启动时还像老司机,后面就越用越智障。

针对这些问题,NHTSA给出了审查的明细,包括评估系统是否对即将采取的操作行为向用户发出警报警告;是否给予驾驶员的响应时间;FSD系统识别交通信号灯、向驾驶员显示信息并作出恰当响应的能力;以及FSD系统识别车道标线和逆行标志并作出响应的能力。

以及还将重新评估每次OTA是否影响FSD遵守交通法规与信号灯的表现。

如果确认存在问题,所有搭载FSD的特斯拉车型都将召回,官方列出的范围是2882556辆,几乎是特斯拉在北美所有历史累计销量。

NHTSA的考量标准是所有搭载FSD的硬件套装的车型,而非仅仅局限在开启了FSD服务的用户。

实际上几乎每一项涉及特斯拉的调查,官方都是不分批次年限,瞄准所有特斯拉交付车辆的。

FSD「缺陷史」

这次的问题可能出在哪?

大概率是端到端模型的“幻觉”问题,现在行业主流解决方法是通过大语言模型加强模型认知,比如外挂VLA/VLM模型对系统轨迹输出进行解释、指导。

刚刚更新的FSD V14也表现出了类似的对环境的理解认知能力,比如可以在私人庭院内的非铺装道路自主穿行,最后成功泊入堆满杂物的车库:

对于NHTSA来说,很难锁定之前的事故案例问题到底出在哪里

因为端到端的黑盒特性,直接调参十分困难,特斯拉自己可能都无法精准归因溯源,只能通过技术体系重构(V14过渡到一段式端到端),在整体层面不断提高FSD的能力。

所以这一次的调查和之前的所有调查很可能一样,对特斯拉很难有什么实质影响

目前还在进行中的调查有4起,包括今年1月针对特斯拉远程挪车事故的调查、去年10月份针对FSD在恶劣天气条件下的一系列事故调查、以及前不久特斯拉Robotaxi落地部署是否合规的调查…

每一次调查范围,都是特斯拉历史累计交付的所有车辆。

NHTSA的常规调查周期都是18个月起步,情况复杂的周期会更长,比如发生在2023年特斯拉FSD用户死亡事故,至今也没有结论。

这次调查的结论18个月后再出,FSD V15、V16可能都上了。

这其实也是传统监管流程不适应AI技术迭代规律的矛盾体现马斯克本质是在利用美国政策监管的迟滞性、窗口期,加速AI能力进化

之前的问题可能不再是问题,但也有可能出现新的问题,这些问题又会在后续的迭代中逐渐解决…..马斯克要做的一方面是支持AI团队不断探索,另一方面是雇佣一支优秀的法律团队去跟监管部门周旋,把行走在法规灰色地带的成本降到最低。

也许有一天,马斯克能够在解决AI在物理世界的终极难题,把全人类带入一个新的纪元。

不过代价依然有,就是落在谁的头上了。