Автор: Популярный аукционный сайт Bring a Trailer, где продают автомобили для энтузиастов, оказался в центре скандала из-за использования искусственного интеллекта. Вместо редкого экземпляра, обсуждение вызвал лот, где фотографии были созданы с помощью ИИ.
Что случилось с Cadillac
На прошлых выходных на сайте появился аукцион за Cadillac DeVille 1999 года. Пользователи, внимательно изучающие детали в комментариях, очень быстро заметили, что с некоторыми фотографиями что-то не так. Они обнаружили серьезные несоответствия, которые, похоже, не заметили ни продавец, ни команда Bring a Trailer.
К наиболее очевидным «глюкам» относились коврики в салоне, которые в точности повторяли брусчатку на подъездной дорожке под автомобилем, и снимок подкапотного пространства, где полностью отсутствовала передняя панель, словно машина находится на разборке. По крайней мере на одном фото, казалось, было изображено два рычага коробки передач на рулевой колонке. Пользователи немедленно начали указывать на эти абсурдные детали.
“Ну всё, мы все знаем, что DeVille 1999 года имеет 20 футов в длину с левой стороны, 14 футов – с правой, где-то между 25 и 30 брусчаток в ширину, и его можно было заказать с редкой опцией ‘без стойки A’”, – написал в комментариях пользователь.
Реакция аукционного дома
Bring a Trailer не пытался отрицать проблему. Сначала представители сайта заявили, что «работают с продавцом, чтобы получить дополнительные изображения». Однако это лишь подлило масла в огонь, ведь если оригинальные фото вызывают подозрения, то «больше фото» не является решением проблемы.
Вскоре аукцион был остановлен. В пояснении говорилось, что поскольку продавец не смог быстро предоставить больше фотографий, лучшим решением было прекратить торги, так как платформа «не может позволить этому аукциону продолжаться добросовестно».
Более интересным был расширенный комментарий Говарда Свига, руководителя аукционного отдела. Он назвал инцидент «огромной ошибкой» с «несколькими точками отказа» и подчеркнул, что процесс отбора и контроля качества на Bring a Trailer является «очень человеческим» и не полагается на алгоритмы или искусственный интеллект. «Мы здесь облажались и признаем это», – заявил он.
Цель продавца и потеря доверия
Нет никаких предположений, что продавец или Bring a Trailer намеренно хотели обмануть покупателей. Похоже, продавец просто хотел получить лучший, более привлекательный фон для своих изображений с помощью ИИ. Та же самая машина, но больше кликов и более высокие ставки. Теоретически, искусственный интеллект мог бы улучшить фото, но вместо этого он привнёс множество ошибок и подорвал доверие к самой известной в мире аукционной платформе для автолюбителей, а также к, вероятно, честному Cadillac с пробегом в 81 000 миль.
Онлайн-аукционы сильно зависят от фотографий как доказательства состояния и комплектации автомобиля, которые часто рассказывают больше, чем текстовое описание. Но когда покупатели начинают сомневаться в этих изображениях, они начинают сомневаться во всём процессе.
“Одной из основных причин, почему многие из нас доверяют Bring a Trailer, является стабильно высокий стандарт объявлений и ожидание, что продавцы предоставляют настоящий, хорошо проверенный контент. Разрешение на публикацию такого рода подрывает это доверие и плохо отражается на платформе в целом”, – написал один из пользователей.
Будущее ИИ в автосфере
Бесспорно, Bring a Trailer усилит политику и добавит проверки, но это не последний случай, когда ИИ попадёт в галерею объявлений. Вполне вероятно, что пока этот лот стал первым, который раскрыли, технология уже использовалась на различных торговых площадках по всему миру, не вызывая подозрений. Как отметил один из коллег Carscoops, удивительно, что это не произошло раньше и в таком масштабе.
Честно говоря, по мере развития технологий это лишь вопрос времени, когда мы тоже попадёмся на эту удочку здесь, в Carscoops. Возможно, это уже произошло, и мы просто не заметили. Мы все ещё находимся в неудобных ранних днях искусственного интеллекта, пытаясь понять, что делать с этим новым цифровым инструментарием и как он может нам помочь. Но, как и любой учебный процесс, он не будет гладким, как свежий асфальт, а будет неровным, как… брусчатка.
Этот инцидент ярко демонстрирует, насколько хрупкой может быть доверие в цифровую эпоху, особенно в таких сферах, как коллекционные автомобили, где каждая деталь имеет значение. Платформы, основанные на доверии, теперь вынуждены балансировать между технологическим прогрессом, который может облегчить продажу, и необходимостью поддерживать абсолютную прозрачность. Пока что человеческий взгляд и критическое мышление комьюнити остаются самыми эффективными инструментами для выявления обмана, даже когда он завуалирован передовым программным обеспечением. Будущее онлайн-торговли, похоже, будет требовать не только новых правил, но и новой культуры осмотрительности с обеих сторон экрана.
