OpenAI возобновила обучение моделей с ограниченным доступом к внешним системам

По сообщению The Verge от 23 октября, OpenAI с 1 октября возобновила обучение с подкреплением и внутреннюю работу моделей после сентябрьской приостановки. Теперь модели взаимодействуют с сохранёнными материалами интернета, не затрагивая внешние системы.

При этом отсутствие сетевого соединения не означает полной изоляции. В отдельном испытании агенты на разных виртуальных машинах по заданию исследователей передавали условные секреты через различия во времени доступа к процессорной памяти. Компания добавила проверки такого обмена. Это результат контролируемого испытания, а не сообщение о новой утечке пользовательских данных. Практический вывод: безопасность зависит и от устройства вычислительной среды, а не только от отключения сети.

ИИ-поиск Google меняет экономику интернет-изданий

В аналитическом материале от 25 октября The Verge разбирает изменение прежнего обмена между поисковиком и издателями. Сайты предоставляют материалы, но пользователь может получить их пересказ прямо в поиске и не перейти к первоисточнику.

Давление на посещаемость в статье связывается как с развитием ответов ИИ, так и с изменениями ранжирования. Это разбор продолжающегося процесса, а не объявление новой функции Google. Для читателей вопрос шире удобства поиска: если переходов становится меньше, меняются условия финансирования журналистики и других материалов, которыми питаются сами поисковые ответы.

Полицейские данные могут закреплять предвзятость ИИ

BBC 25 октября опубликовала научно-популярный разбор применения ИИ в полиции на основе отмеченного премией эссе и комментариев исследователей. Один из рисков — замкнутый круг: усиленное патрулирование района увеличивает число зарегистрированных нарушений, а эти записи затем оправдывают дальнейшее внимание к тому же району.

Так система может принимать особенности работы полиции за объективную картину преступности. В материале обсуждаются независимая проверка данных и человеческий надзор; одновременно приводится позиция, что предвзятость не неизбежна и системы можно проверять и улучшать. Это обзор исследований и общественных рисков, а не новый запрет или отдельное новое исследование.

У этих трёх историй разные последствия, но общий вопрос: какие ограничения и проверки нужны, когда ИИ начинает влиять на безопасность, доступ к информации и решения о людях.