Два свежих сбоя показывают одну и ту же проблему: компании всё ещё слишком легко принимают уверенный ответ AI за готовый продукт. В одном случае банк отступил от плана заменить 45 сотрудников чат-ботом, в другом ChatGPT уверенно подсказывал неверные адреса сайтов и открывал дорогу фишингу.
Стартап AegisAI, запущенный бывшими руководителями направления безопасности Google, строит защиту почты на базе ИИ-агентов, которые разбирают письма почти как живой аналитик. Проект пока выглядит недооценённым: компания моложе года, а в материале речь идёт лишь о десятках клиентов, хотя задача у неё очень болезненная — остановка сложного целевого фишинга и поддельных вложений, которые часто проходят мимо обычных фильтров.
