KPMG: когда отчет об агентном ИИ сам становится примером проблемы

The Register пишет о разборе GPTZero: в октябрьском отчете KPMG «Total Experience», который хвалил агентный ИИ, якобы только 5 из 45 цитат корректно подтверждали фрагменты, рядом с которыми стояли. Если вывод верен, получилась почти идеальная корпоративная комедия: документ о том, как агентный ИИ должен помогать бизнесу, сам показывает, почему ему нужен скучный человек с карандашом и доступом к первоисточникам.

Смешно ровно до момента, когда такой отчет кладут на стол руководству, клиенту или регулятору. Ошибочная ссылка в презентации — это не просто косметика: она меняет доверие к выводам, особенно когда речь идет о закупках, рисках и новой стратегии.

Урок: автоматическая генерация цитат не заменяет независимую проверку источников. Если документ продает ИИ как усилитель качества, сначала стоит убедиться, что его собственные сноски не усиливают галлюцинации.