Чат-бот, выдававший себя за врача, судебные документы с выдуманными цитатами и полицейская ошибка из-за галлюцинации Copilot — свежая подборка случаев, где уверенный тон AI снова оказался опаснее, чем кажется.
Один свежий и очень показательный фейл: Claude подпортил судебную подачу, добавив неправильные цитаты и формулировки в legal filing. Урок простой — LLM может ускорить черновик, но не заменяет проверку источников.
