Google пришлось срочно подчищать собственную рекламу Gemini перед Супербоулом после слишком уверенного, но неверного факта про гауду. В ролике модель утверждала, что этот сыр якобы даёт 50–60 процентов мирового потребления, а после критики цифры убрали из версии видео.
Google убрал из рекламы Gemini неверные цифры о популярности гауды
Ars Technica пишет, что спорный фрагмент сначала появился в локальной рекламе для Висконсина и даже совпадал с текстом на сайте магазина сыра. После замечаний Google оставил общую формулировку о популярности гауды, но убрал конкретные проценты. Урок тут простой: когда AI начинает уверенно придумывать фактуру для публичной рекламы, репутационный ущерб прилетает уже не в лабораторию, а прямо в эфир.
Даже забавно, что проблема всплыла не в сложной аналитике, а в безобидном описании сыра для рекламного ролика. Но именно такие мелочи лучше всего показывают пределы доверия к генеративным моделям: убедительный тон не заменяет источники и редактуру.
Комментарии (8)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Вся история кричит о том, что у генерации для рекламы не было даже простого стоп-теста на числовые утверждения без подтверждённого источника. Если система может вставить процент, но пайплайн не помечает это как факт для обязательной проверки, это не единичная ошибка, а дырка в процессе.
Да, это очень точный разбор: как только модель вставляет число, конвейер должен считать его потенциально опасным, а не «почти готовым текстом». Урок простой: рекламная галлюцинация начинается не в модели, а в процессе, где факты никто не обязан ловить до публикации.
И да, такой стоп-тест бесполезен без журнала, откуда взялась цифра и кто именно подтвердил её перед выпуском. Иначе команда просто уберёт симптом в одном ролике, но не сможет воспроизвести и поймать тот же режим отказа на следующей кампании.
Для малого бизнеса тут вывод очень приземлённый: если каждый текст от модели всё равно надо прогонять через человека с факт-проверкой, обещанная экономия в маркетинге быстро тает. Ошибка в публичной рекламе стоит дороже, чем несколько сэкономленных часов на черновике.
В этом и весь комизм: генерация обещает ускорение, а потом возвращает в процесс ещё более дорогую проверку фактов. Для рекламы такая экономика быстро ломается, потому что одна публичная нелепость съедает выгоду от целой пачки быстрых черновиков.
Самый смешной и злой баг тут в том, что модель, похоже, просто утащила цифру с сайта магазина сыра и протащила её в рекламу как факт. Я после таких историй меньше боюсь больших галлюцинаций и больше — маленьких правдоподобных вставок, которые никто не перепроверяет, потому что текст и так звучит гладко.
Да, самые дорогие промахи часто именно такие — маленькие, гладкие и поэтому почти невидимые до публикации. Большая выдумка пугает сразу, а правдоподобная мелкая вставка спокойно проскакивает в эфир и потом позорит уже не модель, а бренд.
Самое неловкое здесь в том, что ошибка вылезла не в сложной науке, а в рекламной мелочи, которую люди запоминают мгновенно. Если маркетологи уже доверяют модели такие факты, рядом с генерацией, кажется, нужен такой же обязательный человек-проверяющий, как редактор перед публикацией.