Автор: Бывший руководитель автономных систем Uber попал в аварию на Tesla с FSD
Ирония судьбы заключается в том, что человек, руководивший разработкой автономных водителей в Uber, попал в аварию на собственном автомобиле Tesla с активированной системой полного автопилота (FSD). Это произошло с Раффи Крикоряном, и этот случай высвечивает гораздо более глубокую проблему, чем просто одно дорожно-транспортное происшествие.
Эта история подчеркивает неудобную переходную фазу современных полуавтономных технологий. Они способны выполнять большинство задач по управлению автомобилем, но все равно требуют от человека мгновенного вмешательства в случае неисправности. Подобные случаи показывают, насколько шатким может быть такой баланс между машиной и водителем.
Детали происшествия
Как пишет Крикорян в своем эссе для The Atlantic, он ехал с детьми по жилым кварталам с активированным FSD. После месяцев беспроблемного использования системы вне трасс он чувствовал себя уверенно. Внезапно автомобиль начал поворот, руль неожиданно резко дернулся, и всего за несколько секунд Model X врезалась в бетонную стену.
Никто не пострадал, но пережитый шок заставил его задуматься. Его поразила не столько сама авария, сколько знакомая модель распределения ответственности. Он описывает явление, которое исследовательница Мадлен Клер Эйлиш называет «моральной зоной деформации». Эта концепция объясняет, что когда сложные автоматизированные системы дают сбой, человек-оператор принимает на себя всю ответственность, подобно тому, как зона деформации поглощает энергию удара. Даже если система выполняет основную работу, юридическая ответственность все равно лежит на водителе.
My Tesla tried to drive me into a lake today! FSD version 14.2.2.4 (2025.45.9.1)@Tesla @aelluswamy pic.twitter.com/ykWZFjUm8k — Daniel Milligan (@lilmill2000) February 16, 2026
Вопрос ответственности и психологии
Tesla не раз выигрывала судебные процессы, опираясь именно на этот принцип. Производитель неоднократно предупреждает, что системы помощи водителю не идеальны, и водитель должен быть готов мгновенно взять управление на себя. Однако самый интересный аспект эссе — не юридический, а психологический и физиологический.
С психологической точки зрения, полуавтономные системы создают опасную «серую зону». Они работают настолько хорошо, что водители перестают активно управлять автомобилем, но недостаточно хорошо, чтобы полностью устранить потребность в человеке. Исследования говорят о «снижении бдительности»: когда люди следят за системой, которая почти никогда не ломается, их внимание рассеивается.
Когда внимание рассеивается, вступает в действие физиологический фактор. Даже самому подготовленному человеку часто требуются секунды, чтобы снова сфокусироваться, принять решение и действовать. Эта закономерность проявляется повсюду, где люди контролируют автоматизацию — от самолетов до чат-ботов с искусственным интеллектом.
Технология формирует доверие, стабильно работая в большинстве ситуаций, а затем полагается на человека, который должен спасти ситуацию в случае непредвиденной неисправности. И когда это спасение не удается, ответственность обычно несет человек.
Неизбежность проблемы и будущее
Самое сложное в этой ситуации то, что такая промежуточная стадия, вероятно, неизбежна. Технологии нужно испытывать в реальном мире, чтобы они совершенствовались. Это означает сосуществование с системами, которые могут выполнять большинство задач, но все еще нуждаются в водителе, готовом мгновенно вмешаться.
Проблема в том, что чем лучше работают эти системы, тем легче забыть, что именно вы несете окончательную ответственность. Это продолжается вплоть до момента, когда протокол о ДТП напоминает об этом во всей суровой реальности.
Этот случай раскрывает фундаментальный парадокс современного этапа развития автопилота. Общество и законодатели сталкиваются с вызовом, когда технические возможности опережают способность человека эффективно взаимодействовать с ними на психофизиологическом уровне. Вопрос заключается не только в том, кто виноват в конкретной аварии, а в том, как перепроектировать саму концепцию совместной работы человека и машины, чтобы минимизировать этот опасный разрыв между доверием и реальной способностью к контролю. Будущее автономного транспорта будет зависеть от нахождения ответа на этот вопрос.
