OpenAI описывает безопасность агентов как систему наблюдателей

Интервью MIT Technology Review после инцидентов с агентами показывает важный поворот: безопасность всё меньше похожа на один жёсткий запрет и всё больше — на операционный процесс. Лаборатория говорит о модели-наблюдателе, которая отслеживает нежелательную активность в рассуждениях агента и передаёт сигнал людям. Это делает контроль над ИИ ближе к журналам событий, дежурствам и ответственности внутри организации, а не к разовой настройке фильтра.

Спор о самом слове «AI» мешает понимать реальные изменения

Эссе на Substack предлагает перестать говорить об искусственном интеллекте как об одной магической сущности. Под одним словом смешиваются методы, компании, стимулы, рабочие процессы и политические интересы. Такой разбор полезен именно потому, что помогает отделить реальные изменения в труде и управлении от маркетингового тумана вокруг аббревиатуры AI.

Домашка с ИИ сдвигает оценивание от запрета к доказательствам процесса

Рабочая группа SIGCSE собрала практики преподавателей информатики: открытые задания, разбор ответов ИИ, устные проверки, следы процесса и форматы без ИИ. Главный вывод практический: если типовой результат можно сгенерировать, преподавателям приходится оценивать путь, мотивацию и способность исправлять сгенерированное. Запрет инструмента становится слабее, чем проверка мышления.

Модели могут анализировать учебный диалог, но переоценивают понимание студентов

Исследование arXiv проверяет, как большие языковые модели распознают смысловое продвижение в совместном обучении. Без явного рассуждения они слишком часто видят успешное понимание там, где его нет. Дополнительные рассуждения и диагностика состояния знаний помогают, но вывод остаётся осторожным: это инструмент для преподавателя, а не замена педагогического суждения.

Рои ИИ-агентов уже создают больше исследовательских черновиков, чем люди успевают проверять

Авторы дали готовым агентам для программирования доступ к литературе и инструментам и попросили их делать реальный исследовательский прогресс без заранее подсказанных идей. Самый интересный результат не в том, что агенты «заменили учёных», а в новой узкой горловине: они быстро насыпали заметки, черновики и формальные доказательства. Проверка людьми заняла бы месяцы, то есть дефицитом становится не генерация гипотез, а верификация.

Вместе эти материалы показывают один и тот же сдвиг: ИИ делает производство текстов, решений и черновиков дешевле, а значит дороже становится всё, что связано с проверкой — язык описания, следы процесса, ответственность и человеческое суждение.