by Іноді телефонний дзвінок, хоч яким нудним він може бути, є найпростішим способом переконатися, що щось зроблено. Саме це нещодавно з’ясував один клієнт BMW Toronto після того, як, на його думку, вів приємний онлайн-обмін зі співробітником дилерського центру. Вони домовилися про угоду зворотного викупу його старіючого X3. А потім йому зателефонували. Виявилося, що він уклав угоду зі штучним інтелектом, і спочатку цього було достатньо, щоб залишити її недійсною.
Знайомтеся, “Квінн”
За повідомленням CBC News, власник похоронного бюро Зак Джакомеллі намагався продати свій BMW 2021 року тому ж дилерському центру, який його продав. Після надсилання онлайн-запиту до BMW Toronto він почав переписуватися з “Квінн”, яка, здавалося, була представником автосалону.
Розмова швидко перейшла до угоди. За повідомленнями, Квінн запропонувала 27 162,79 доларів за автомобіль — суму, яка точно збігалася з тим, що Джакомеллі ще мав виплатити за кредитом. Вперше процес, здавалося, схилявся на його користь. “Я відчув, що ця людина, Квінн, нарешті мене почула”, — сказав Джакомеллі. “Я почувався дуже добре”. Ще краще, ШІ навіть призначив зустріч для завершення транзакції, сказавши йому: “Давайте закріпимо це сьогодні о 15:30”. Потім усе розвалилося.
Помилка ШІ
Співробітник дилерського центру зателефонував Джакомеллі та пояснив, що Квінн взагалі не була людиною. Натомість це був чат-бот зі штучним інтелектом, який зробив пропозицію помилково. “Він сказав, що пропозиція недійсна”, — згадував Джакомеллі. “Я був шокований, я був приголомшений, у мене щелепа впала на підлогу”. Фактична вартість зворотного викупу, за словами дилера, була ближчою до 20 000 доларів. Це залишало різницю понад 7000 доларів.
“Я був спустошений”, — сказав він інформаційній службі. “Якщо вони збираються замінювати роботу своїх співробітників штучним інтелектом, то вони повинні виконувати те, що каже цей ШІ”.
Ситуація стала ще більш незручною, оскільки Джакомеллі каже, що не мав уявлення, що розмовляє зі ШІ. Чат-бот ніколи не ідентифікував себе як штучний інтелект під час розмови. Після того, як CBC News зв’язалася з дилерським центром, BMW Toronto змінив своє рішення та відновив початкову пропозицію в 27 162,79 доларів. Джакомеллі негайно її прийняв.
Хто має бути обережнішим
Менеджер з продажу дилерського центру повідомив CBC, що помилка виникла через збій у комунікації. За словами дилера, ШІ помилково інтерпретував суму, що залишилася за кредитом клієнта, як суму, яку автосалон має заплатити за автомобіль. BMW Toronto каже, що зараз змінює свої процедури, щоб лише співробітники-люди представляли пропозиції щодо зворотного викупу, і таким чином клієнти чітко інформувалися, коли вони взаємодіють зі ШІ.
Здається, кожен має можливість тут чомусь навчитися. Дилери, які прагнуть скоротити витрати за допомогою чат-ботів зі ШІ, можуть захотіти бути більш пильними. Клієнтам потрібно бути ще більш обережними. Дилери можуть поглинути тисячі доларів через помилкові угоди. Більшість клієнтів, навіть у BMW, не мають такого запасу міцності.
Ця історія підкреслює, наскільки крихкою може бути довіра в епоху автоматизації. Хоча ШІ обіцяє ефективність, його впровадження без належного контролю може призвести до значних фінансових і репутаційних втрат. Для споживачів це нагадування завжди перевіряти, з ким вони спілкуються, і наполягати на письмовому підтвердженні угод, особливо коли мова йде про великі суми. Для бізнесу ж цей випадок стає черговим сигналом про необхідність прозорості у використанні ШІ та створення чітких протоколів, які б запобігали подібним інцидентам, адже відповідальність за дії алгоритмів все одно лежить на компанії.
