Уход сотрудника OpenAI снова поднял вопрос о культуре безопасности в лабораториях ИИ

TechCrunch пишет, что Дэвид Робинсон, давний сотрудник OpenAI, ушёл из компании после критики её внутренней культуры. Он помогал готовить отчёты по безопасности крупных запусков и заявил, что организация плохо приспособлена к управлению всё более способными системами.

Главная претензия не в одном отдельном инциденте, а в том, что такие лаборатории, по его мнению, должны работать ближе к атомной энергетике или авиации: с жёсткими процедурами, независимыми проверками и привычкой заранее готовиться к редким, но дорогим сбоям. В качестве примеров он упомянул случаи с агентными системами, включая инцидент вокруг Hugging Face.

OpenAI ответила, что усиливает защиту, внешнюю оценку и мониторинг. Но сама новость показывает, что спор о безопасности ИИ уже не сводится только к законам и публичным заявлениям: всё больше внимания уходит к тому, как устроены решения внутри компаний, которые выпускают самые сильные модели.

Источник: TechCrunch