by Поширення систем спостереження
Автоматичні зчитувачі номерних знаків, відомі як ALPR, тепер практично скрізь. Їх встановлюють на поліцейські автомобілі, розміщують на перехрестях та інтегрують у стовпи ліхтарів по всій країні. Флорида, у відповідь на зростаюче поширення цієї технології, нещодавно прийняла оновлене законодавство, спрямоване проти тих, хто затемнює номерні знаки або заважає їх видимості.
Закон містить формулювання щодо пристроїв, які перешкоджають записуючим системам фіксувати номер. Іншими словами, дуже розумний інструмент для боротьби з ALPR тепер може відправити водіїв у Флориді за ґрати… і більшість людей, ймовірно, не зможуть його помітити без допомоги.
Технологія, що обманює штучний інтелект
Мова йде про технологію музиканта та інженера Бенна Джордана, який нещодавно продемонстрував мінімалістичну наклейку з невеликими крапками, розроблену для того, щоб заплутати камери ALPR, не затемнюючи номер у традиційному розумінні. Для людського ока номер залишається абсолютно читабельним.
Цифри, літери, розташування — все відповідає нормі. Навіть зображення з камер ALPR показують повністю розбірливий номерний знак. Але справа не в цьому.
Як система бачить обман
Важливо те, як це бачить штучний інтелект. Стратегічно розміщені крапки використовують особливості класифікації зображень машинного навчання. Замість того, щоб ідентифікувати об’єкт як номерний знак, який варто зафіксувати, штучний інтелект часто класифікує його зовсім інакше і взагалі пропускає запис.
Згідно з новим законом Флориди, пристроєм для затемнення номерного знака вважається будь-який ручний, електронний або механічний пристрій, який заважає розбірливості, кутовій видимості, виявленню або можливості записати будь-яку особливість номерного знака. Що важливо, статут не обмежується людською читабельністю. Він явно включає втручання в роботу записуючих систем. Саме тут наклейка Джордана стає юридично проблематичною.
Критика широких формулювань закону
Критик і захисник права на ремонт Луї Россманн негайно вказав на те, наскільки широкою та потенційно небезпечною є ця мова. Критикуючи закон, Россманн стверджував, що Флорида фактично криміналізувала інструменти, які кидають виклик інфраструктурі спостереження, навіть коли вони не заважають людині ідентифікувати транспортний засіб і не використовуються для вчинення злочину.
Незважаючи на це, кожен, хто використовує такий інструмент, як той, що створив Джордан, може опинитися у в’язниці так само, як якби він порушував правила дорожнього руху, керуючи в стані сп’яніння.
Пріоритет захисту систем, а не намірів
Наклейка Джордана не перевертає номерні знаки, не приховує цифри та не наносить відбиваючі покриття. Вона не змінює колір або макет знака. Вона просто показує, що системи ALPR покладаються на крихке розпізнавання образів, а закон Флориди, схоже, віддає пріоритет захисту цих систем над намірами, шкодою або людською розбірливістю.
Незрозуміло, чи мали намір законодавці Флориди заборонити тести на вразливість машинного навчання. Однак очевидно, що мова закону достатньо широка, щоб охопити їх у будь-якому випадку… навіть якщо більшість людей навіть не помітить, що на номерному знаку щось є.
Ця ситуація вказує на більш глибоку тенденцію, коли законодавство намагається встигнути за технологічними інноваціями, іноді створюючи надто широкі рамки, які можуть зачіпати не тільки зловмисників, але й тих, хто просто демонструє вразливості систем. Заборона інструментів, які не заважають людям, але впливають на алгоритми, ставить питання про те, що саме має бути основним критерієм законності: здатність людини ідентифікувати об’єкт чи здатність машини його сканувати. Подібні закони можуть мати значні наслідки для дослідників безпеки, які виявляють недоліки в системах спостереження, що використовуються державою.
