by Питання до Hertz щодо системи оцінки пошкоджень на основі ШІ
Hertz знову опинився під пильною увагою через свою систему сканування пошкоджень, що працює на штучному інтелекті. Компанія стверджує, що ця технологія допомагає уникнути помилкових звинувачень клієнтів у пошкодженнях автомобілів. Однак користувачі скаржаться, що система надто прискіплива або повністю помиляється. Ця ситуація привернула увагу Вашингтона, і комітет з нагляду Палати представників вимагає детальних пояснень щодо функціонування системи.
Технологія та партнерство з UVeye
Орендна компанія співпрацює з ізраїльською технологічною фірмою UVeye, використовуючи сканери, які роблять повні 360-градусні знімки автомобіля при його видачі та поверненні. Hertz заявляє, що прагне бути об’єктивною щодо пошкоджень, але не дає відповіді на питання, чи ремонтує вона збитки, за які стягує кошти з клієнтів.
Орендарі іноді стверджують, що пошкодження, виявлені UVeye, навіть не існують. Найбільшою проблемою, однак, є відсутність людського втручання після того, як система позначає пошкодження. Це викликає занепокоєння у Комітету з нагляду Палати представників.
Позиція законодавців
Деякі інші компанії з оренди автомобілів використовують ШІ як інструмент, але вимагають, щоб співробітники-люди перевіряли будь-які пошкодження, позначені системою сканування, перед виставленням рахунків клієнтам; однак Hertz, мабуть, є єдиною компанією з оренди автомобілів у США, яка виставляє оцінки збитків клієнтам без людського перегляду.
Комітет вимагає повного звіту про те, як працює система. Зокрема, було запитано, як UVeye проводить оцінку збитків, як часто Hertz підтримує спірні випадки та чому клієнти скаржаться на неможливість легше зв’язатися з людиною.
Чому це важливо для Конгресу
Комітет дав генеральному директору Hertz до 27 серпня, щоб відповісти. Уряд зацікавлений, оскільки ситуація впливає як на громадський, так і на приватний сектори. Комітет з нагляду зосереджується на кібербезпеці, інформаційних технологіях та урядових інноваціях. Він визнає потенційні переваги такої системи ШІ, яка може бути об’єктивною, але також хоче переконатися, що всі клієнти “користуються перевагами впровадження цієї нової технології”.
Зі зростанням громадських скарг і втручанням законодавців, Hertz незабаром доведеться пояснити, як її система працює на практиці, а не в теорії.
Стягнули 285$ за щось, що я не міг знайти неозброєним оком під час огляду перед поверненням.
Система автоматизованої оцінки пошкоджень, безумовно, має потенціал для підвищення ефективності, але відсутність людського контролю може призводити до численних суперечок. Багато клієнтів відчувають себе безпорадними, коли стикаються з алгоритмічними рішеннями, які важко оскаржити. Це піднімає ширші питання про те, як технології ШІ інтегруються в сфери, де важливий персональний підхід і справедливість. Впровадження подібних систем потребує не лише технічної досконалості, але й механізмів захисту прав споживачів, щоб уникнути масового невдоволення та юридичних наслідків.
