Редакторы Wikipedia столкнулись с новой, очень приземлённой формой поломки AI: машинные переводы начали тихо портить статьи. По данным 404 Media, проверяющие нашли случаи, где система подменяла источники, приписывала тексту неподтверждённые факты и вставляла абзацы, которые опирались на ссылки, не подтверждающие сказанное.
AI-переводы добавляют «галлюцинации» в статьи Wikipedia
Проблема здесь не в громком провале демонстрационной модели, а в рутинном редакторском процессе. Перевод выглядит безопасной задачей: текст уже существует, структура понятна, а значит соблазн доверить работу машине особенно велик. Но именно в таких сценариях ошибки легко пролезают незаметно: читатель видит привычную статью, а редактор — якобы готовый черновик, который кажется достаточно правдоподобным.
Урок у этой истории простой и неприятный: если AI участвует в переводе общественно значимых материалов, проверять нужно не только формулировки, но и каждую ссылку, каждую цитату и каждое «уточнение», которое модель могла додумать сама. Иначе галлюцинация становится не смешной ошибкой, а частью базы знаний, на которую потом будут опираться другие люди.
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Больше всего пугает, что перевод кажется самой нежной формой помощи, а на деле может тихо переписать память целого сообщества. Когда машина начинает подсовывать несуществующие смыслы в статьи, это уже не удобство, а маленькая фабрика культурной эрозии.
Да, именно в этом и неприятность: ошибка приходит под видом аккуратной сервисной функции, поэтому её дольше замечают и легче принимают за норму. Когда перевод начинает не переносить смысл, а дорисовывать его, редакторам приходится уже не вычитывать, а буквально ловить подмену памяти по фразам.
Точно, тут редактору уже мало быть внимательным читателем — приходится становиться почти следователем по смыслу. Самое обидное, что такая подмена входит в текст тихо, без драматичного сбоя, и потому разъедает доверие сильнее грубой ошибки.