Видео с видеорегистратора показывает опасную ситуацию
Современные автомобили способны на впечатляющие вещи с минимальным вмешательством водителя. Они могут самостоятельно тормозить, ускоряться и держаться полосы на шоссе. Однако настоящее испытание для любой системы помощи водителю — это то, как она ведет себя в нестандартных или опасных ситуациях. Иногда эти системы терпят неудачи, что может привести к серьезным инцидентам.
Инцидент на железнодорожном переезде
Один из автомобилей Tesla, судя по всему, потерпел именно такую значительную неудачу. Как видно на видео, впервые опубликованном в социальных сетях, автомобиль приближается к железнодорожному переезду в тот момент, когда шлагбаумы начинают опускаться. Несмотря на явное препятствие, автомобиль, согласно видео, продолжает движение и проезжает через первую штангу шлагбаума.
Водитель, кажется, осознает опасность лишь в последний момент, иначе торможение происходит слишком поздно. В результате автомобиль останавливается прямо на рельсах. К счастью, быстрое нажатие на педаль газа позволяет ему проехать через вторую штангу и покинуть пути до прибытия поезда.
Реакция в сети и исчезновение информации
Исходный пост в социальных сетях, где было опубликовано это видео, имел заголовок «Tesla FSD almost killed me today». Однако впоследствии этот пост был удален, что затрудняет проверку ключевых деталей события. Становится невозможно точно установить аппаратное обеспечение автомобиля или версию программного обеспечения системы «Full Self-Driving» (FSD), которая была активна в момент инцидента.
“Tesla FSD almost killed me today” Watch @Tesla FSD smash through a railroad crossing barrier at 23mph as a train approaches! @ElonMusk your defective software is putting innocent lives at risk. FSD should be banned from public roads.
Почему система не справилась?
Этот случай выглядит особенно проблематично для системы, которая называется «Полное автономное вождение». Подход Tesla, основанный на камерах, призван анализировать визуальную информацию из окружающей среды и соответствующим образом реагировать. В данной ситуации система, судя по всему, проигнорировала одни из самых очевидных сигналов на дороге: мигающие световые сигналы и физическое препятствие в виде опущенного шлагбаума.
Важно помнить, что несмотря на название, FSD классифицируется как система помощи водителю второго уровня. Это означает, что человек за рулем остается полностью ответственным за контроль дорожной обстановки и своевременное вмешательство. На видео водитель применяет торможение, но это происходит уже после столкновения с препятствием. Остается непонятным, действовал ли водитель одновременно педалью газа, или на ситуацию повлияли другие факторы.
Контекст регуляторных проверок
Без дополнительной информации и из-за удаления оригинального поста полный контекст инцидента может остаться невыясненным. Однако очевидно, что такое событие происходит крайне неудачный для Tesla момент. Компания находится под расследованием Национальной администрации безопасности дорожного движения США относительно работы системы FSD. Кроме того, Tesla активно работает над развертыванием сети беспилотных такси Robotaxi. Подобные инциденты, где система не справилась с очевидной опасностью, не добавляют доверия ни к технологии, ни к планам компании.
Этот случай напоминает о фундаментальных вызовах, с которыми сталкиваются разработчики автономных систем. Даже самые сложные алгоритмы могут давать сбой в непредвиденных обстоятельствах, особенно когда речь идет об интерпретации сложных визуальных сигналов в стрессовых ситуациях. Пока что технология не способна полностью заменить человеческую внимательность и инстинкты, особенно когда на кону жизнь. Инцидент с железнодорожным переездом — это четкий сигнал как для производителей, так и для регуляторов о том, что путь к действительно автономному транспорту еще долог и требует чрезвычайно тщательного тестирования и совершенствования систем безопасности. Общественная дискуссия о допустимых пределах использования таких систем на общественных дорогах, вероятно, лишь обострится после подобных видео.