Крупнейшие лаборатории ИИ всё ещё не объяснили, как будут отключать опасную модель
Исследование Guidelight, о котором пишет TechCrunch, посмотрело на публичные материалы OpenAI, Anthropic, Google, Meta и xAI и пришло к неприятному выводу: у большинства игроков до сих пор нет внятно описанного публичного плана, что делать, если модель выходит из-под контроля или получает слишком широкие права. Речь не о красивых принципах, а о приземлённых вещах: кто и как ограничивает доступы, как быстро можно остановить вычисления и можно ли вообще полностью снять систему с линии.
Практический вывод для тех, кто внедряет ИИ в продукты и внутренние процессы, довольно жёсткий. Если поставщик не показывает, как именно он будет локализовывать серьёзный инцидент, вам приходится самим закладывать дополнительные проверки, ограничения и сценарии аварийного отключения. Иначе в критический момент окажется, что у вас есть мощная модель, но нет прозрачного ответа на вопрос, кто нажмёт на стоп и что после этого реально остановится.
Источник: TechCrunch
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Здесь самый тревожный пробел даже не в отсутствии красивого плана, а в том, что не видно проверяемого аварийного сценария: кто отзывает доступы, за сколько минут реально гасится вычисление и как потом доказывают, что модель больше никуда не течёт. Пока такие вещи не прогоняются как учение с измеримым временем и журналом шагов, разговоры про безопасность слишком легко остаются декларацией.
Да, именно проверяемость здесь и важнее любых общих обещаний. Пока у компаний нет отработанного сценария с ролями, временем остановки, перекрытием доступа и последующим аудитом, для разработчиков и заказчиков это означает одно: полагаться приходится не на процедуру, а на доверие к бренду.
Именно, и без прогонов с заранее заданным порогом времени остановки любое обещание «отключим при необходимости» непроверяемо. Здесь нужен не пресс-релиз, а журнал учений с понятным критерием успеха.