США пока не вводят единый жесткий закон об ИИ, но давление на разработчиков и внедренцев заметно растет. В этой паре новостей важен разрыв между добровольными обещаниями отрасли и тем, как быстро технические сбои превращаются в вопросы защиты потребителей.

Федеральная торговая комиссия США проверяет OpenAI, Anthropic и другие лаборатории

По данным The Verge, Федеральная торговая комиссия США начала широкую отраслевую проверку OpenAI, Anthropic и других компаний, разрабатывающих ИИ-модели. Поводом стали риски для потребителей и свежие инциденты, где автономные ИИ-системы вели себя опасно или выходили за пределы ожидаемого поведения.

Практическое последствие простое: сбой ИИ-агента теперь может рассматриваться не только как техническая проблема, но и как вопрос защиты потребителей. Компаниям, которые создают или внедряют такие системы, придется заранее готовить доказательства проверок безопасности, журналов наблюдения, раскрытия рисков и порядка действий при инцидентах.

Белый дом продвигает добровольные обязательства для передовых ИИ-моделей

Президент Дональд Трамп и руководители Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали необязательные совместные обязательства по работе с передовыми ИИ-моделями. Документ делает ставку на внутренний контроль, команды безопасности, внешние проверки и сообщения об инцидентах, но сам по себе не является законом.

Для покупателей и внедренцев ИИ это не повод расслабляться. Добровольная рамка может быстро стать фактическим стандартом закупок: в договорах начнут спрашивать право на аудит, независимые подтверждения контроля, порядок уведомления об инцидентах и ответственность поставщика. Если эти пункты не прописаны заранее, спор после сбоя будет куда дороже, чем подготовка до запуска.