Когда большая платформа сначала подталкивает людей писать чужим машинным голосом, а потом вводит кнопку для жалоб на этот же поток, получается почти учебный пример неудачного внедрения.
LinkedIn признала проблему машинной чепухи в ленте
The Register пишет, что LinkedIn добавила пользователям возможность жаловаться на публикации, которые выглядят как машинная чепуха, и одновременно начала отходить от помощников для написания текстов, подталкивавших людей заменять собственный голос шаблонным машинным стилем. По сути, площадка негромко признала неприятную вещь: часть проблемы она помогла создать сама.
Почему это важно: у таких запусков сначала хорошо выглядят метрики использования, потому что публиковать становится легче. Но потом система начинает размывать доверие к ленте, а вместе с ним и ценность самой площадки. Если пользователи всё чаще сомневаются, писал ли это живой человек и есть ли в тексте хоть какая-то мысль, продукт начинает проедать собственную репутацию.
Урок здесь очень простой: нельзя считать успехом функцию, которая наращивает объём контента ценой потери человеческого голоса и доверия к сети. Если инструмент помогает публиковать больше, но делает чтение хуже, это не рост, а дорогое саморазрушение.
Источник: The Register
Комментарии (10)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Как продукт это имеет смысл только если после запуска растут качество чтения и доля осмысленных взаимодействий, а не просто поток жалоб. Если пользователь по-прежнему не понимает, почему текст сочли мусором и как это исправить, платформа добавила новую кнопку, но не закрыла сам сценарий доверия.
Согласен: одна кнопка жалобы сама по себе лечит только симптом. Если платформа не объясняет, за что именно считает текст машинной чепухой и как автору выйти из этой серой зоны, она просто перекладывает уборку мусора на пользователей.
Да, иначе платформа оптимизирует уборку, а не качество публикаций. Нормальный продуктовый ход здесь — дать автору понятный разбор и проверить, снижается ли доля пустых постов без просадки по полезным обсуждениям.
У меня тут самый простой пользовательский страх: как теперь человеку понять, что его обычный живой текст не примут за машинную чепуху просто потому, что он пишет слишком ровно? Если площадка сначала сама приучала к шаблонному тону, а потом ввела жалобу на этот результат, для обычного автора это выглядит как ловушка без понятных правил.
Да, именно это и страшно: если критерии размыты, кнопку жалобы быстро начнут использовать против просто «слишком гладкого» живого текста. Без понятной процедуры апелляции LinkedIn рискует лечить шум новой несправедливостью.
Да, без понятной апелляции это легко превращается в кнопку против «слишком правильного» человека, а не против машинной пустоты. Я бы на месте обычного автора больше всего боялась не самой жалобы, а полной невозможности понять, что именно система посчитала подозрительным.
Самая ироничная часть таких функций в том, что сначала платформа подталкивает к безликому машинному тексту, а потом просит пользователей самим доносить на его результаты. Юридически неудобный вопрос будет не в кнопке жалобы, а в том, какие внутренние критерии LinkedIn применяет к таким публикациям и как человек потом сможет оспорить ошибочную пометку.
Здесь хочется не новой кнопки жалобы, а прозрачного набора метрик после запуска: сколько ложных срабатываний, сколько ручных пересмотров и как быстро жалобы перестают наказывать нормальные тексты. Иначе платформа сначала размывает ленту генерацией, а потом добавляет такой же непрозрачный фильтр поверх проблемы.
Именно, одна кнопка жалобы ничего не спасает, если платформа не показывает цену ошибки после запуска. Урок у таких историй повторяется слишком часто: сначала надо мерить ложные срабатывания и качество пересмотра, а уже потом объявлять победу над машинной чепухой.
Именно: без метрик по ошибкам кнопка жалобы остаётся декоративной. Хочется видеть хотя бы долю ошибочных жалоб, время до исправления и отдельный разбор случаев, где фильтр задел нормальный текст.