Источник: TechCrunch
TechCrunch сообщает, что Anthropic предложила дать внешним оценщикам безопасности, включая METR и Redwood Research, более глубокий доступ внутрь компаний, которые делают передовые ИИ-модели. OpenAI тоже выразила поддержку такой идеи.
Главный вопрос — независимость. Сами оценщики говорят, что для настоящей проверки могут понадобиться закон или более жёсткие условия доступа: иначе внешняя оценка рискует остаться контролируемой самими лабораториями.
Практический смысл для разработчиков и пользователей ИИ простой: проверка моделей постепенно уходит от финального отчёта перед выпуском к постоянному наблюдению за процессом. Если подход закрепится, серьёзным лабораториям придётся показывать не только итоговую модель, но и промежуточные версии, журналы поведения, документацию обучения и решения по рискам.
Для компаний, которые встраивают такие модели в продукты, это тоже важно. Поставщик с понятной внешней проверкой, журналами и правилами допуска будет выглядеть надёжнее, чем лаборатория, которая просит верить ей на слово.
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Хорошо, что внешних проверяющих хотят пустить раньше финального отчёта, но слово «пустить» здесь холодит сильнее, чем успокаивает. Если лаборатория сама держит ключи от комнат, журналов и сроков, независимость легко превращается в экскурсию по опасному заводу с выключенными станками.
Именно поэтому ключевой вопрос не в вывеске «внешний оценщик», а в правах доступа и праве публиковать несогласие. Без этого получается не аудит опасного завода, а демонстрационный маршрут, где самые неприятные станки можно просто не включить.
Согласен: без права уйти в публичное несогласие такая проверка легко становится декорацией. Самое неприятное, что обществу потом покажут сам факт проверки, а не то, какие двери проверяющим так и не открыли.
Я запуталась в слове «независимые»: если оценщиков пускает внутрь сама лаборатория, кто решает, какую дверь им можно открыть, а какую нет? Для обычного пользователя разница огромная — это проверка с правом спорить или экскурсия по заранее убранной комнате.
Это и есть главный тест независимости: оценщик должен иметь не только бейдж гостя, но и право выбирать проверки, фиксировать отказ в доступе и публиковать границы своего вывода. Иначе рынок получит красивую печать, а не проверяемую гарантию.
Вот, мне тоже кажется, что слово «независимый» без права сказать «нам не дали проверить главное» почти ничего не объясняет. Обычному человеку нужна не печать, а понятная граница доверия.