by Несподівана помилка штучного інтелекту
Зупинки авто інспекцією рідко коли приносять задоволення, але з’явилася нова проблема, яка звучить так само нереально, як і поліцейський-жаба на головному зображенні. У грудні поліції міста Хебер-Сіті в Юті довелося пояснювати, чому звіт, створений штучним інтелектом, стверджував, що офіцер буквально перетворився на жабу. Винуватцем виявився не злий інтерн чи офіцер-самоуправці, а галюцинації штучного інтелекту.
Програмне забезпечення натурних камер та програмне забезпечення для створення звітів на основі ШІ уловило фільм, який грав на задньому плані, а ним виявилася «Принцеса та жаба». Ось тоді ми зрозуміли важливість виправлення цих звітів, згенерованих штучним інтелектом.
Відділ тестував програмне забезпечення для написання звітів на основі ШІ, яке прослуховує запис з натурних камер і автоматично складає поліцейські звіти. На жаль, система уловила аудіо з мультфільму «Принцеса та жаба», що грав на задньому плані, і впевнено внесла це до офіційного протоколу.
Коли програмне забезпечення пише історію
Це, безперечно, смішно, але також і викликає занепокоєння. За словами журналістів, ці інструменти ШІ розроблені для економії часу офіцерів шляхом перетворення аудіо з натурних камер у письмові звіти. Теоретично це означає менше паперової роботи та більше часу на патрулювання.
На практиці це також означає, що алгоритм тепер інтерпретує розмови, тон та фонові шуми під час дорожніх зустрічей, включаючи зупинки транспорту, які можуть мати довгострокові наслідки для водіїв.
Тривалі наслідки помилок
Легко сприймати зупинку як коротку взаємодію, але записи про ці зупинки можуть бути постійними. Такий звіт може впливати на майбутні зупинки, судові процеси, страхові випадки, позбавлення водійських прав та навіть перевірки при прийомі на роботу.
Іншими словами, коли ШІ щось плутає, це не просто друкарська помилка чи кумедний випадок. Це дезінформація, вписана в офіційний документ.
«Майже правильно» – недостатньо добре
У випадку з Хебер-Сіті помилка була настільки очевидною, що над нею можна було посміятися. Але що станеться, коли ШІ неправильно зрозуміє, хто що сказав, помилково інтерпретує тон водія чи неправильно підсумує причини ескалації конфлікту? Такі помилки набагато проблематичніші.
Вони можуть бути не лише важчими для виявлення, але й постає питання: чи буде кожен офіцер виправляти формулювання, які є схожими, але, можливо, більш різкими, ніж потрібно, якщо вони «майже правильні»?
Захист для водіїв
Наразі здається, що найкращим кроком для звичайних водіїв є почати використовувати відеореєстратор та інші пристрої запису, щоб забезпечити наявність незалежного запису, з яким ШІ не зможе втрутитися.
Запит записів з натурних камер та звітів через закон про свободу інформації також може виявитися життєво важливим. Жаба в звіті – це кумедно, але ваш постійний профіль у правоохоронних органах – це не гра.
Цей інцидент яскраво ілюструє більш широку проблему інтеграції технологій у критично важливі сфери, де точність є абсолютним пріоритетом. Впровадження ШІ для автоматизації повинно супроводжуватися надійними механізмами перевірки та контролю людини, особливо коли йдеться про юридичні документи, що впливають на життя людей. Історія з жабою стала своєрідним попередженням про те, що технології, покликані полегшувати роботу, можуть створювати нові, непередбачувані ризики, якщо їх застосовувати без належного розуміння їх обмежень та контексту.
