Две свежие истории The Register показывают разные грани одной проблемы: даже полезные защитные слои и «заземлённые» научные агенты не отменяют проверку человеком. В одном случае водяные знаки испортили вызовы инструментов, в другом чат-агенты по научным статьям лишь сузили риск галлюцинаций.
Anthropic продвигает невидимую маркировку текстов Claude ради соответствия EU AI Act, но Ars Technica пишет, что такой знак может и ошибочно цепляться к человеческим правкам, и сравнительно легко исчезать после обычной обработки. Параллельно другая история показывает, как крупные геномные модели уже дошли до проектирования новых вирусов-бактериофагов.
