Распространение систем наблюдения
Автоматические считыватели номерных знаков, известные как ALPR, теперь практически повсюду. Их устанавливают на полицейские автомобили, размещают на перекрестках и интегрируют в столбы фонарей по всей стране. Флорида, в ответ на растущее распространение этой технологии, недавно приняла обновленное законодательство, направленное против тех, кто затемняет номерные знаки или мешает их видимости.
Закон содержит формулировки относительно устройств, которые препятствуют записывающим системам фиксировать номер. Другими словами, очень умный инструмент для борьбы с ALPR теперь может отправить водителей во Флориде за решетку… и большинство людей, вероятно, не смогут его заметить без помощи.
Технология, обманывающая искусственный интеллект
Речь идет о технологии музыканта и инженера Бенна Джордана, который недавно продемонстрировал минималистичную наклейку с небольшими точками, разработанную для того, чтобы запутать камеры ALPR, не затемняя номер в традиционном понимании. Для человеческого глаза номер остается абсолютно читаемым.
Цифры, буквы, расположение — все соответствует норме. Даже изображения с камер ALPR показывают полностью разборчивый номерной знак. Но дело не в этом.
Как система видит обман
Важно то, как это видит искусственный интеллект. Стратегически размещенные точки используют особенности классификации изображений машинного обучения. Вместо того чтобы идентифицировать объект как номерной знак, который стоит зафиксировать, искусственный интеллект часто классифицирует его совсем иначе и вообще пропускает запись.
Согласно новому закону Флориды, устройством для затемнения номерного знака считается любой ручной, электронный или механический прибор, который мешает разборчивости, угловой видимости, обнаружению или возможности записать любую особенность номерного знака. Что важно, статут не ограничивается человеческой читабельностью. Он явно включает вмешательство в работу записывающих систем. Именно здесь наклейка Джордана становится юридически проблематичной.
Критика широких формулировок закона
Критик и защитник права на ремонт Луи Россман немедленно указал на то, насколько широкой и потенциально опасной является эта формулировка. Критикуя закон, Россман утверждал, что Флорида фактически криминализировала инструменты, которые бросают вызов инфраструктуре наблюдения, даже когда они не мешают человеку идентифицировать транспортное средство и не используются для совершения преступления.
Несмотря на это, каждый, кто использует такой инструмент, как тот, что создал Джордан, может оказаться в тюрьме так же, как если бы он нарушал правила дорожного движения, управляя в состоянии опьянения.
Приоритет защиты систем, а не намерений
Наклейка Джордана не переворачивает номерные знаки, не скрывает цифры и не наносит отражающие покрытия. Она не меняет цвет или макет знака. Она просто показывает, что системы ALPR полагаются на хрупкое распознавание образов, а закон Флориды, кажется, отдает приоритет защите этих систем над намерениями, вредом или человеческой разборчивостью.
Неясно, намеревались ли законодатели Флориды запретить тесты на уязвимость машинного обучения. Однако очевидно, что формулировка закона достаточно широка, чтобы охватить их в любом случае… даже если большинство людей даже не заметит, что на номерном знаке что-то есть.
Эта ситуация указывает на более глубокую тенденцию, когда законодательство пытается поспеть за технологическими инновациями, иногда создавая слишком широкие рамки, которые могут задевать не только злоумышленников, но и тех, кто просто демонстрирует уязвимости систем. Запрет инструментов, которые не мешают людям, но влияют на алгоритмы, ставит вопрос о том, что именно должно быть основным критерием законности: способность человека идентифицировать объект или способность машины его сканировать. Подобные законы могут иметь значительные последствия для исследователей безопасности, которые выявляют недостатки в системах наблюдения, используемых государством.