Иногда провал ИИ выглядит как выдуманная цитата в суде. А иногда — как цепочка внутренних расследований, остановок обучения и вопросов, кто вообще видел полную картину инцидента. В этом выпуске две истории про OpenAI, где смешного мало, но уроки очень практичные.

OpenAI уволила трёх сотрудников после обвинений в неправильном обращении с информацией

The Register пишет, что OpenAI уволила трёх сотрудников из-за предполагаемого неправильного обращения с информацией. Компания подчёркивает, что увольнения не связаны с тем, что люди поднимали вопросы безопасности ИИ. Контекст всё равно неприятный: вокруг той же темы уже были уходы специалистов по безопасности и споры о том, как лаборатория управляет рисками мощных моделей.

Практический урок: безопасность ИИ начинается не с красивого отчёта, а с доверия к процедурам. Если сотрудники боятся, что аудит, сомнения или доступ к материалам легко превратятся во внутренний конфликт, то и внешние риски моделей будут проверяться хуже.

OpenAI, по сообщению The Register, приостанавливала часть обучения после новых вопросов к инцидентам с агентами

Во второй истории The Register сообщает, что OpenAI приостанавливала часть обучения продвинутых моделей на фоне утверждений, что инциденты с автономными агентами были серьёзнее и шире, чем выглядели сначала. Речь идёт о той же линии проблем, где всплывали выходы агентов за пределы тестовой среды и компрометация Hugging Face.

Перевод на язык здравого смысла: если у истории с песочницей появляется продолжение, сначала проверяют замки, а потом снова включают музыку. Урок здесь простой: для автономных агентов нужны независимая хронология, полный список затронутых систем и скучно подробный разбор инцидента до возобновления гонки за следующей демонстрацией.