Сбой у ИИ редко остается просто смешной историей, если система уже встроена в большой продукт и влияет на решения людей. В этой подборке два показательных случая: один про юридическую ответственность за выдуманный ответ, второй — про слишком раннюю продажу будущих возможностей как будто они уже существуют.

Google признали ответственным за ложные ответы AI Overview

Суд в Мюнхене признал Google ответственным после того, как AI Overview якобы выдал ложные и вредящие репутации утверждения о двух издателях, вместо того чтобы просто сослаться на сторонние страницы. Это важный сигнал для всей отрасли: когда система не просто ищет, а формулирует готовый ответ от имени продукта, ссылка на то, что «пользователь сам должен проверить», может уже не сработать.

Почему это важно: спор бьет по одной из любимых защит крупных платформ — будто бы ИИ лишь пересказывает чужой интернет. Суд фактически показывает, что если машина говорит голосом компании, то и ответственность может лечь на компанию.

Урок: если ИИ выдает уверенный ответ внутри вашего продукта, предупреждения мелким шрифтом не заменяют проверку фактов до показа пользователю.

Источник: The Register

Apple обвинили в том, что компания выдала будущие возможности Siri за почти готовый продукт

Против Apple подали иск в федеральный суд: в рекламе iPhone 16 и Apple Intelligence компания, по версии истцов, создала впечатление, что Siri уже скоро получит гораздо более умные и персонализированные функции, хотя к реальной поставке этих возможностей она не была готова. Получился классический неудачный запуск: громкие обещания помогали продавать устройство, а задержка превратила красивую презентацию в повод для обвинений во вводящей в заблуждение рекламе.

Почему это важно: история показывает, что риск вокруг ИИ возникает не только из-за галлюцинаций в ответах, но и из-за галлюцинаций в маркетинге. Когда дорожную карту начинают продавать как готовую возможность, юридические последствия становятся вполне материальными.

Урок: планы по ИИ — это не продукт. Если продавать мечту раньше, чем работает сама функция, затем объясняться придется уже в суде.

Источник: The Register