Resolution: масштаб доказательства теперь зависит и от бюджета вычислений

Джек Кларк разбирает работу, в которой исследователь подготовил общий и подробный планы, а система агентов примерно за неделю произвела около 600 тысяч строк формального доказательства при заявленных расходах на обращения к моделям около 135 тысяч долларов. Существенный сдвиг — небольшая команда может взяться за объём формализации, который раньше требовал слишком много человеческого времени, но постановка задачи и проверка результата никуда не исчезают. Числа здесь приведены как сообщения команды в обзоре, а не как независимо воспроизведённые измерения; сам объём строк не доказывает научную значимость результата.

Повседневный вред может оставаться за рамками узких проверок безопасности

В авторской колонке Сэм Хайнер и Эмма Лейкен предлагают отдельно рассматривать предотвращение катастроф и защиту привычек мышления, обучения и отношений. Их аргумент: продукт способен пройти узкие проверки безопасности и одновременно поощрять зависимость, а противодействие этому может потребовать ограничить вовлечение пользователей — то есть затронуть деловую модель. Это нормативная позиция авторов, а не доказанный одинаковый эффект всех ИИ-продуктов.