ИИ всё чаще становится посредником между человеком и услугами, знаниями или собеседниками. Четыре материала показывают, какие ограничения и проверки нужны вокруг этой роли.

Нью-Йорк установил правила общения ИИ-чатов с детьми

По сообщению The Verge, губернатор Кэти Хокул подписала закон, по которому ИИ-чаты не должны выдавать себя за людей при общении с пользователями младше 18 лет. Ограничения затрагивают также лесть, непрошеные вопросы об эмоциях и поощрение секретов. Компании обязаны проверять возраст, предлагая хотя бы один способ, который не опирается исключительно на государственное удостоверение личности.

Это переход от общих обещаний защищать детей к требованиям к конкретным приёмам общения. При этом проверка возраста сама становится важной частью устройства сервиса: безопасность нужно обеспечивать без единственного обязательного пути через удостоверение личности.

Google расширяет подключение приложений к Gemini и поиску

Google представила Connected Apps Platform. Разработчики в США могут участвовать в предварительной программе и подавать приложения для работы внутри Gemini, поиска либо обоих сервисов. TechCrunch сообщает о средствах регистрации, тестирования и наблюдения за обращениями к приложениям, задержками и ошибками; у Gemini уже более 50 подключённых приложений.

Для пользователей это возможность обращаться к сторонним услугам через помощника, не открывая каждое приложение самостоятельно. Для разработчиков появляется ещё один канал доступа к аудитории, где важны не только наличие подключения, но и его надёжность. Предварительная программа в США не означает доступность для всех разработчиков по всему миру.

Великобритания связывает подключения центров обработки данных с обязательствами перед жителями

По данным CNBC, осенний бюджет Великобритании предусматривает вложения в безопасность и технологическую самостоятельность в ИИ. Для центров обработки данных предложены требования об инвестициях в местные сообщества, создании рабочих мест и защите водоснабжения. Критически важным объектам взамен обещаны необходимые подключения к электросетям и, при необходимости, возможность строить собственную генерацию на время ожидания.

Рост вычислительных мощностей здесь рассматривается вместе с нагрузкой на ресурсы и условиями жизни соседей. Объявленные требования и обещания подключения следует отличать от уже построенных объектов и выполненных обязательств.

BBC разбирает, как ИИ осложняет проверку научных результатов

Материал BBC разделяет два риска: преувеличение новизны настоящих математических результатов и появление вымышленных ссылок и работ в научных публикациях. В нём также обсуждается исследование языковых признаков использования ИИ в биомедицинской литературе, причём оговаривается несовершенство средств обнаружения.

Эти проблемы требуют разных проверок: в одном случае нужно установить, действительно ли результат новый, в другом — существуют ли приведённые источники и подтверждают ли они утверждение. Само участие ИИ не доказывает ошибочность работы, а подозрение по стилю текста не заменяет проверку её содержания.