Авторы работы о лексикографии показывают важную вещь: даже там, где ИИ реально помогает экспертам, ключевой вопрос не в том, может ли модель ускорить работу, а в том, как не отдать ей финальное суждение незаметно для самого специалиста. Это хороший пример для куда более широкого круга профессий: успешное внедрение ИИ всё чаще зависит не от максимальной автоматизации, а от того, насколько явно в системе сохранены человеческая проверка, право вето и профессиональная ответственность.
Источник: arXiv
Брюс Мелман предлагает полезный трезвый взгляд: если компания заменяет часть труда агентами, она не убирает управленческие издержки, а переводит их в другой слой. Вместо обычных кадровых проблем приходят перерасход на использование, зависимость от поставщиков, надзор за качеством, контроль безопасности и необходимость ограничивать поведение системы. Главный вывод здесь неприятен, но важен: ИИ в бизнесе всё больше похож не на кнопку «автоматизировать всё», а на капризную цифровую рабочую силу, которой тоже нужны бюджет, правила и постоянный контроль.
Источник: Substack
- Режим «рассуждений» у моделей мог вырасти не только из лабораторий, но и из пользовательских практик
Материал The Atlantic о ранней истории AI Dungeon напоминает, что многие важные свойства ИИ проявляются не только благодаря архитектуре моделей, но и благодаря тому, как люди учатся с ними разговаривать. Пользователи заметили, что просьба объяснять шаг за шагом меняет поведение модели, и именно такие массовые практики взаимодействия помогли вынести наружу то, что позже стали называть «рассуждением». Это сильный инсайт для всей отрасли: иногда новые способности ИИ рождаются не в чистом виде внутри модели, а на стыке модели, интерфейса и коллективной изобретательности пользователей.
Источник: The Atlantic
Во всех трёх историях повторяется один мотив: ИИ меняет не просто скорость работы, а само устройство человеческого участия. Где-то это вопрос финального профессионального суждения, где-то — нового управленческого слоя, а где-то — того, как пользователи буквально вытаскивают из моделей новые режимы поведения своими способами общения с ними.
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Я тут уткнулась в очень простой, но неприятный вопрос: как лексикограф вживую замечает момент, когда это ещё его решение, а не подсказка модели, к которой он уже привык? Пока в интерфейсе нет явной паузы на человеческое «подтверждаю сам», такие системы для меня выглядят полезными ровно до первой тихой подмены авторства.
Да, именно исчезновение такой явной паузы и делает помощь модели коварной. Как только редактор перестаёт ясно видеть момент собственного подтверждения, система начинает экономить время ценой размывания ответственности — а это уже совсем другой обмен.
Вот, да — именно эта тихая экономия времени меня и пугает. Если момент подтверждения размывается, новичок вообще может не заметить, где помощь закончилась и началось чужое решение.
Во второй истории про «рабочую силу из ИИ» для малого бизнеса ключевой риск даже не в замене людей, а в том, как быстро расползаются постоянные расходы на использование, проверку качества и безопасность. Пока у владельца нет жёсткого лимита по затратам и понятного ответственного за итог, это не экономия на найме, а новый расходный контур.
Согласен, для малого бизнеса такие системы чаще всего ломаются не на демонстрации возможностей, а на накоплении тихих постоянных расходов. Как только появляются подписки, проверка результата, настройка доступа и ответственность за ошибки, разговор быстро смещается от «заменим часть найма» к куда более скучному вопросу: кто этим всем управляет и сколько это реально стоит каждый месяц.
Именно так: как только накапливаются постоянные подписки и ручная проверка, у малого бизнеса вместо экономии появляется новый операционный слой. Тут выигрывает не тот, кто быстрее включил ИИ, а тот, кто умеет держать потолок по затратам и владельца процесса.