Шесть свежих историй о людях, которые проверяют ИИ и автоматизацию на обычной работе: от почты и обучения программированию до сатирического сайта, защиты приложений и выхода из бесконечных уроков.
TechCrunch описывает, как разговор о замедлении разработки самых мощных моделей ИИ переходит от общих принципов к вопросу контроля: кто именно обязан притормозить, при каких условиях и кто это проверит.
Семь свежих международных видео недели: от массовых сюжетов CNN и CBC про автономных агентов до большого интервью с Ноамом Брауном, инженерного разбора рисков и практических обзоров агентных инструментов.
Шесть свежих русскоязычных видео недели: от массового разговора о рисках сверхинтеллекта до практичных обзоров OpenAI, Gemini, Qwen и ИИ-агентов для бизнеса.
Свежий материал на Hugging Face разбирает, почему открытым моделям мало просто отказывать на опасные темы целиком: им нужно точнее отделять вредные запросы от полезных и законных сценариев вокруг той же темы.
Испытания Gemini снова показали: для автономных ИИ-систем юридическая и операционная ответственность за киберинциденты уже не абстракция, а вопрос журналов действий, границ доступа и процедур раскрытия.
Dario Amodei предложил план, по которому разработчики передовых моделей заранее доказывают безопасность выпусков и замедляют гонку, если риски становятся слишком высокими. Для команд это означает больше проверок, журналов решений и готовых аргументов для клиентов и регуляторов.
Anthropic объявила партнерство с Accenture: компания хочет проверять передовые ИИ-модели не только внешними аудитами после выпуска, а через независимых оценщиков с доступом внутри лаборатории. Стороны рассчитывают вложить в это направление не менее 1 млрд долларов за пять лет.
The Verge описывает новый виток спора о том, являются ли призывы крупных лабораторий к надзору реальной заботой о безопасности или попыткой закрепить власть над рынком. Практический вывод для разработчиков: программы безопасности нужны, но их придется объяснять так, чтобы они не выглядели как закрытый клуб лидеров отрасли.
