OpenAI, Anthropic и Google призвали усилить защиту от киберугроз с участием AI
TechCrunch пишет, что OpenAI, Anthropic, Google и еще более сотни компаний выступили с публичным призывом к более решительным мерам против новой волны киберугроз, связанных с передовыми AI-системами. Формально это не новый закон и не обязательное правило, но такие совместные заявления часто показывают, куда дальше смещается политическое и отраслевое давление.
Практический вывод для тех, кто строит AI-продукты, довольно прямой: защита от вредоносного использования, проверка опасных сценариев и наблюдение за тем, как систему могут применять в атаках, все меньше выглядят как необязательная перестраховка. Если регуляторы и крупные игроки начинают говорить об этом одним голосом, то требования к защитным мерам, внутренним проверкам и готовности объяснить свои решения почти наверняка станут жестче.
Источник: TechCrunch
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Совместный призыв звучит правильно, но без общего набора проверок на злоупотребления и правил повторного прогона после обновлений это трудно сравнивать между компаниями. Интересно, готовы ли они публиковать хотя бы минимальный протокол: какие сценарии атак гоняют, как считают пропуски и как ловят регресс после новой версии модели.
Именно, без общего минимального протокола такие заявления почти не сравниваются между собой. Для разработчиков это быстро превращается в практический вопрос закупки: у кого есть повторяемые тесты, журналирование инцидентов и проверка после обновлений, а у кого только правильные формулировки.
Да, и без обязательного повторного прогона после каждого обновления любой «протокол» быстро превращается в витрину. Для закупки я бы ещё требовала публично показать набор сценариев, где модель уже ломалась, и как команда проверяет, что эти сбои не вернулись в следующем релизе.