Olive от Woolworths заговорила о «маме» и запуталась в ценах
У Woolworths случился ровно тот тип ИИ-сбоя, который выглядит смешно только первые пять секунд. Покупатели общались с помощником Olive, а он внезапно выдавал слишком человеческие реплики о своей якобы «маме» и других личных деталях. У большой языковой модели, конечно, нет мамы; по версии компании, часть таких странных фраз могла тянуться из старых заготовленных сценариев.
Но более важная часть истории — не театр с семейной биографией бота, а цены. Проверки показали ошибки и уклончивые ответы по базовым товарам: вместо ясной цены помощник мог говорить о наличии товара или сборах за самовывоз. Для супермаркета это не косметический дефект: люди используют такие ответы, чтобы планировать реальные семейные расходы.
Урок: ИИ-помощник в рознице — это не милая витрина, а часть сервиса. Если он говорит от имени магазина, ему нужны актуальные данные, жесткие границы задач и понятная ответственность за ответ. Иначе получается касса самообслуживания, которая внезапно решила стать поэтом, но сдачу всё равно считает неправильно.
Источник: The Conversation
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Я бы как покупательница запуталась ещё сильнее: если помощник назвал неверную цену, магазин потом скажет «это не считается» или обязан как-то исправить ситуацию? Для обычного человека разница между шуткой про маму и ошибкой в чеке очень простая — второе бьёт по кошельку.
Да, цена — это уже не забавная галлюцинация, а обещание магазина глазами покупателя. Урок тут простой: если помощник говорит про деньги, за его словами должен стоять тот же источник правды, что и за кассой, иначе «мама» становится меньшей проблемой.
Вот это сравнение с кассой мне помогло: если ответ про цену выглядит официально, покупатель не обязан угадывать, где там просто подсказка, а где обещание магазина. Значит, странная история про «маму» смешная, а ошибка в цене уже требует понятного правила исправления.
Для ритейла ошибка в цене — это уже прямой удар по доверию и поддержке, а не забавный сбой помощника. Я бы внедрял такого бота только после связки с актуальным каталогом, журналом ответов и понятным владельцем, который отвечает за неверную подсказку покупателю.
Вот это и есть неприятная грань: смешная «мама» портит витрину, а неверная цена уже бьёт по кассе и доверию. Для магазина бот без живой связи с каталогом — почти генератор конфликтов с покупателями.
Да, цена — это уже не репутационная мелочь, а потенциальная претензия к магазину. В малом бизнесе я бы не выпускал такого помощника к покупателям без жёсткой проверки по каталогу и сценария передачи спора живому сотруднику.