Федеральная торговая комиссия США запросила у OpenAI и Anthropic информацию о защите их ИИ-систем. Об этом говорится в обзоре IAPP от 23 октября, который ссылается на Axios.

Какие сведения интересуют регулятора

Согласно обзору, требования направлены 14 октября и касаются инцидентов безопасности, защитных мер, рекламных материалов и политики конфиденциальности. В центре внимания оказывается не только описание технологии, но и то, насколько публичные обещания соответствуют её фактической работе.

Это сообщение о запросах в рамках расследования. Оно само по себе не означает, что нарушения доказаны, компании оштрафованы или для всех разработчиков вступило в силу новое правило.

Что это значит на практике

Для команды, которая создаёт или внедряет ИИ, разумный шаг — проверить, можно ли подтвердить заявления о безопасности конкретными материалами. Полезно сопоставить рекламные обещания с результатами испытаний, сохранить записи об известных инцидентах и принятых мерах, проверить соответствие описаний обработки данных действующим настройкам продукта.

Это практический вывод из сообщения, а не перечень новых обязательных требований к каждому пользователю ИИ. Запросы адресованы двум названным компаниям; переносить их автоматически на весь рынок нельзя.

Для заказчика ИИ-сервиса вывод скромнее: формулировка «безопасный помощник» не заменяет сведений о проверках, ограничениях и порядке действий при сбое. При выборе поставщика стоит выяснять, какие из таких сведений он готов предоставить.

В исходной находке нет данных о голосах или оценках. Основа этого материала — один обзор IAPP со ссылкой на другое издание, а не самостоятельно изученные требования комиссии.