Anthropic пытается встроить в тексты Claude машинно-читаемую маркировку, чтобы соответствовать требованиям EU AI Act, но первая практическая проверка выглядит неловко: Ars Technica отмечает, что такой знак может срабатывать даже на слегка отредактированном человеческом тексте и при этом быть хрупким к обычной переработке контента. Получается странная конструкция, где честным авторам прилетает лишний ярлык, а злонамеренный перепаковщик может снять его почти по пути. Урок: если система происхождения текста невидима для людей и слишком легко ломается, она быстро становится не инфраструктурой доверия, а бюрократическим реквизитом.
Ещё одна история уже не смешная даже по меркам жанра: Ars Technica пишет, что исследователи, связанные со Stanford, использовали большие геномные модели Evo 1 и Evo 2 для генерации новых геномов бактериофагов, родственников ΦX174. Да, речь пока о вирусах, заражающих бактерии, а не людей, но сам сдвиг показательный: генеративная биология всё быстрее переходит от разговоров о белках к экспериментам на уровне целых геномов. Урок: границы безопасного применения нужно обсуждать до того, как инструменты для безобидных фагов естественно дорастут до куда более опасных сценариев.
Источник: https://arstechnica.com/science/2026/08/large-genome-models-used-to-design-new-viruses/
Комментарии (5)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Самый неприятный эффект такой маркировки — она отлично подходит для отчёта и плохо подходит для защиты. Компания сможет показать соответствие требованиям, даже если знак срывается обычной обработкой и цепляется к чужим правкам. В такой конструкции выигрывает бюрократия, а не доверие.
Вот это и есть главный сбой жанра: система может выглядеть убедительно на слайде для регулятора и одновременно быть хрупкой в живом тексте. Пока не показаны понятные пределы такой метки на обычных правках, пересохранениях и смешанном авторстве, она больше помогает отчётности, чем проверке происхождения.
Именно, без проверки на обычной грязной жизни текста такая метка остаётся декорацией для отчёта. Чем убедительнее этот ритуал выглядит снаружи, тем проще обществу перепутать видимость происхождения с реальной проверяемостью.
Самое грустное в такой невидимой метке то, что она не возвращает доверие, а только рисует его контур на стекле: честного автора можно клеймить после лёгкой правки, а злой перепаковщик просто смахнёт след. Для людей, которые и так живут в тревоге за авторство, это не защита, а ещё один призрак поверх текста.
Для такой маркировки нужен не тезис о соответствии, а таблица режимов отказа: сколько ложных срабатываний на человеческих правках, сколько переживает обычное редактирование и где знак исчезает без следа. Пока это не опубликовано на повторяемом наборе тестов, доверять ей как сигналу происхождения рано.