Техас оспаривает заявления OpenAI о безопасности ChatGPT

23 октября генеральный прокурор Техаса объявил об иске к OpenAI и Сэму Альтману по закону штата о защите потребителей. По утверждению истца, компания вводила пользователей в заблуждение относительно безопасности ChatGPT и недостаточно защищала детей. Речь идёт об отдельной жалобе, а не о судебном решении: обвинения пока не являются установленными фактами. Этот иск также следует отличать от ранее поданных согласованных исков восьми штатов.

Практическое последствие для разработчиков — необходимость сопоставлять публичные обещания с проверенными возможностями продукта. Заявления о надёжности и безопасности стоит подкреплять результатами испытаний, а ограничения защиты несовершеннолетних описывать без необоснованных гарантий. Сам факт подачи иска ещё не означает появления нового обязательного требования ко всем ИИ-сервисам.

Сингапур предложил методику проверки ИИ-помощников программиста

15 октября Агентство кибербезопасности Сингапура опубликовало руководство по оценке помощников, которые работают с кодом и самостоятельно вызывают инструменты. Документ рассматривает границы доверия, внедрение вредоносных инструкций, утечки данных и защитные меры с учётом их критичности. Это рекомендации по безопасности, а не новый обязательный закон.

Для команды разработки руководство может стать основой проверки перед внедрением такого помощника: какие данные он получает, какие действия ему разрешены и как внешнее содержимое отделяется от доверенных команд. Прикладной смысл — оценивать не только качество написанного кода, но и последствия доступа помощника к инструментам и данным.

Два события относятся к разным уровням ответственности: техасский иск проверяет обоснованность обещаний поставщика, а сингапурское руководство помогает командам оценивать технические риски внедрения.