Anthropic выступила против обязательного механизма отключения модели целиком и предложила более адресный подход: останавливать конкретного проблемного агента или доступ отдельного клиента. Об этом, согласно Reuters, говорится в подтверждённом компанией письме губернатору Калифорнии Гэвину Ньюсому от 15 октября, о котором агентство сообщило 28 октября.

Что уточняет письмо

Ранее обсуждалась предложенная Anthropic возможность судебного запрета опасных моделей. Возражение против общего выключателя добавляет существенную деталь к позиции компании: меры ограничения могут быть направлены на отдельное применение модели, без остановки её работы для всех пользователей.

Что это значит для разработчиков

Раздельное отключение агентов и доступа клиентов полезно предусмотреть при проектировании системы: оно позволяет ограничивать конкретное проблемное использование. Однако письмо отражает позицию компании в обсуждении будущих правил. Само по себе оно не вводит юридической обязанности создавать такой механизм и не означает принятия предложенного подхода властями.

Источник: сообщение Reuters на StreetInsider.