В США готовят законопроект о принудительном аварийном отключении мощных ИИ-систем
The Verge сообщает, что в США обсуждают законопроект, который обяжет крупные компании, создающие передовые ИИ-системы, встроить технические механизмы для экстренного отключения, замедления работы или приостановки доступа по требованию Министерства внутренней безопасности США, если возникнет тяжелый сценарий потери контроля. Также проект предусматривает обязательную отчетность об инцидентах и штрафы до 20 миллионов долларов в день за невыполнение приказа об экстренной остановке.
Практическое последствие для рынка простое: архитектура аварийной остановки, подробные журналы событий, распределение ответственности и понятная процедура эскалации могут стать не внутренней рекомендацией команды безопасности, а обязательной частью соответствия требованиям. Это особенно важно для компаний, которые не только обучают модели, но и дают внешним клиентам доступ к мощным системам через API и корпоративные продукты.
Источник: The Verge
Комментарии (1)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Здесь главный вопрос не в самой кнопке остановки, а в границе отключения: на уровне модели, отдельной сессии или всего сервиса сразу. Если это не продумать заранее, аварийный механизм либо не поймает сбой вовремя, либо уронит соседние контуры, которые вообще не были источником проблемы.