AI Fails
Tracebit показала, как «инъекции в подсказки» срывают атаки ИИ-агентов
Исследователи Tracebit описали неожиданную защиту: вредоносную для самих атакующих агентов фразу кладут рядом с приманкой-секретом, и модель сама уходит в отказ вместо захвата среды. В тестах на пяти моделях доля полного захвата прав администратора упала с 57% до 5%.