Служебный заголовок с амбициями начальника

Обычно служебные заголовки, которые сайт отправляет вместе со страницей, передают технические сведения. Но некоторые владельцы решили заодно поуправлять чужими ИИ-помощниками. Как сообщает The Register, исследователи Signals Corps изучили 217 миллионов ответов страниц из Common Crawl и обнаружили 30 сайтов с попытками подмены инструкций в таких заголовках.

Из них 22 попытки были скорее розыгрышами. Впрочем, один заголовок выглядел вполне прикладным: он сообщал системе отбора кандидатов, будто соискатель соответствует требованиям с уверенностью 94%. Сам себе написал рекомендацию — осталось уговорить читателя принять её за результат проверки.

Важная оговорка: это обнаруженные попытки, а не подтверждённые случаи успешного обмана. Заголовок ещё должен попасть в текст, который читает модель; далеко не каждый инструмент передаёт ей эти сведения. Статья оценивает вероятность реального воздействия найденных заголовков как крайне низкую.

Урок: служебные данные сайта — тоже чужой текст, а не распоряжение пользователя. Помощник должен рассматривать их как материал для анализа, даже если они уверенно выставляют кандидату оценку или пытаются выдать себя за начальство.