В мае 2016 года произошла автокатастрофа с участием Tesla Model S, в котором работал автопилот (Autopilot). Тогда погиб водитель. С тех пор Национальное управление по безопасности движения на трассах США провело расследование и выяснило, что автопилот в автомобиле работал нормально и не был причастен к катастрофе. В отчете, который был опубликован в формате pdf, сказано, что система автоматического торможения электромобиля прежде всего должна предотвращать столкновения по ходу движения и не могла повлиять на ситуацию, когда перед Tesla внезапно вылетел грузовик, выехавший с прилегающей дороги.
Кроме того, автопилот не рассчитан на самостоятельное управление автомобилем и требует постоянного наблюдения со стороны водителя. После аварии Tesla добавила еще одну подстраховочную систему: теперь машина следит, чтобы водитель держал руки на руле, а если он не держит руки на руле даже после предупреждения, автопилот отключается до конца поездки.
В ходе расследования также было показано, что после появления режима автоматического подруливания в автомобилях Tesla (это когда автомобиль едет по определенной полосе) число аварий снизилось на 40%.
Следующая версия автопилота Tesla может стать полностью самостоятельной, если подобные происшествия не будут бросать тень на компетентность компании в разработке своей системы. Летом прошлого года мы пришли к выводу, что искусственный интеллект начал убивать раньше времени и что нам придется с этим смириться. Значит ли это, что наши выводы были преждевременны и автопилот пока не виноват, а значит придется готовиться и ждать следующей катастрофы, уже настоящей?
