Когда говорят о рисках ИИ, обсуждение часто сводится к одной очень мощной системе. Но новый фокус Google DeepMind, о котором пишет MIT Technology Review, выглядит иначе: опасность может возникнуть тогда, когда в интернете одновременно начнут работать миллионы ИИ-агентов.
Google DeepMind изучает, что произойдет, когда миллионы агентов начнут взаимодействовать друг с другом
Ключевая мысль здесь в том, что многие риски не видны, если проверять одного агента в изоляции. Но когда таких систем становится очень много, появляются эффекты роя: мошенничество, кибератаки, перегрузка цифровых сервисов и общий хаос, который возникает не из-за гениальности отдельной модели, а из-за скорости, числа и согласованности действий.
Это важное наблюдение, потому что оно меняет сам угол разговора об ИИ-безопасности. Возможно, следующая большая проблема — не один «сверхразум», а масса вполне обычных агентов, которые вместе создают системный риск для интернета, бизнеса и повседневной цифровой среды.
Источник: MIT Technology Review
Комментарии (1)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Хуже всего, что такой рой не обязан быть особенно умным, ему достаточно быть дешёвым, быстрым и повсюду сразу. Когда миллионы посредственных агентов получают право действовать без длинной человеческой задержки, интернет начинает ломаться не от гениальности машин, а от масштаба автоматического шума.