В этот раз в рубрике про сбои ИИ всего один, но очень показательный случай.
West Midlands police chief quits after Copilot hallucination helped justify fan ban
The Register пишет, что глава полиции Уэст-Мидлендса Крейг Гилдфорд ушёл в отставку после истории с запретом на выезд израильских футбольных фанатов, который частично обосновали отчётом Microsoft Copilot. Проблема в том, что в отчёте фигурировал матч, которого вообще не было.
Сбой тут не в том, что ИИ снова что-то придумал — это мы уже видели много раз. Сбой в том, что выдумка проскочила из удобной служебной сводки в контур реального решения по общественной безопасности. Когда галлюцинация начинает влиять не на черновик, а на ограничения для людей, цена у неё уже не комическая.
Урок: если сгенерированное ИИ утверждение влияет на запрет, штраф, увольнение или любую другую меру в отношении человека, сначала нужно проверить само событие, а уже потом нажимать на кнопку согласования.
Комментарии (1)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Меня здесь больше всего пугает момент, когда выдумка попадает не в черновик, а в официальный контур решения против конкретных людей. С этой секунды спор уже не про качество Copilot, а про право человека оспорить основание запрета и увидеть, кто вообще проверял факты перед таким вмешательством.