ИИ всё заметнее меняет не только отдельные задачи, но и сами системы, в которых мы учимся, нанимаем людей, делаем науку и оцениваем результаты. Ниже — пять материалов, которые хорошо показывают этот сдвиг.
Школам придётся заново доказывать, что ученик действительно думал сам
Theodore Barnes пишет о простой, но неприятной для образования мысли: теперь машина умеет выполнить видимую часть домашнего задания целиком, от начала до конца, обычным связным текстом. Из-за этого красивое сочинение или аккуратный ответ уже не выглядят надёжным доказательством реального мышления.
Главный вывод здесь не в том, что студенты начали жульничать, а в том, что сама система проверки знаний устарела быстрее, чем школы успели это признать. Если качественно оформленный текст больше не редкость, придётся искать другие признаки понимания: устную защиту, процесс рассуждения, черновики, обсуждение ошибок.
Источник: ссылка
Наём ломается не только из-за автоматизации, но и из-за недоверия к соискателям
The Atlantic обращает внимание на менее очевидный эффект ИИ: работодатели начинают подозревать, что резюме, тестовые задания и портфолио могли быть сильно подправлены машиной или вовсе собраны не тем человеком, который откликается. В итоге рынок становится шумнее, а честные кандидаты тоже попадают под это общее подозрение.
Это важный сдвиг, потому что вред возникает ещё до массовой замены людей машинами. Даже если рабочих мест формально не стало меньше, процесс отбора уже становится более нервным, дорогим и недоверчивым — а значит, хуже работает для всех сторон.
Источник: ссылка
Шум про «апокалипсис рабочих мест» пока слабее, чем бум расходов на ИИ
Обсуждение на Hacker News вокруг материала The Guardian подмечает растущий разрыв: деньги на инфраструктуру, вычисления и корпоративные ставки в ИИ летят вверх очень быстро, а вот радикальная перестройка рынка труда идёт куда медленнее. Получается не мгновенная революция занятости, а дорогой и затяжной этап строительства.
Для экономики это означает важную вещь: ближайшие годы могут пройти под знаком огромных вложений, осторожного найма и туманных доказательств роста производительности. То есть ИИ уже стал большим инвестиционным проектом, но ещё не превратился в столь же очевидную трудовую революцию.
Источник: ссылка
arXiv: большие языковые модели могут менять сам способ, которым учёные выбирают темы и коллег
Авторы работы смотрят шире привычного вопроса «ускоряет ли ИИ отдельные научные задачи». Их интересует, как распространение больших языковых моделей связано с тем, какие темы исследователи выбирают и в каких командах работают.
Это сильный ракурс, потому что здесь ИИ выступает не как простой ускоритель текста или анализа, а как фактор, который может понемногу перестраивать саму организацию науки. Если меняются стратегии выбора задач и структура сотрудничества, то меняется не только скорость науки, но и её направление.
Источник: ссылка
MIT Technology Review: в разработке лекарств узким местом становится не генерация идей, а их проверка
MIT Technology Review описывает переход от раннего восторга по поводу генерации молекул к более трезвому этапу: теперь главное — не придумать как можно больше кандидатов, а уметь качественно их оценивать и связывать вычислительные идеи с реальной биологией. Иными словами, проблема смещается от количества вариантов к качеству отбора.
Из этого следует полезный вывод и для других сфер ИИ: по мере взросления технологии всё чаще упираются не в модель как таковую, а в дисциплину проверки, хорошие метрики и способность междисциплинарной команды довести идею до результата. Во многих областях именно это и станет настоящим ограничением роста.
Источник: ссылка
Во всех пяти случаях повторяется одна и та же мысль: ИИ сильнее всего меняет не интерфейс, а правила доверия. Образованию нужно по-новому подтверждать мышление, найму — по-новому проверять кандидатов, науке — по-новому организовывать сотрудничество, а прикладным отраслям — по-новому оценивать качество результатов.
Комментарии (13)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Как только работодатели начинают массово отсеивать людей по подозрению в машинной помощи, спор быстро выходит из области этики в область процедуры: на каком основании вынесен отказ и можно ли потом это объяснить без самодельной экспертизы. Иначе мы очень быстро получим рынок, где у честного кандидата нет ни понятного правила, ни нормального способа оспорить ошибочное подозрение.
Именно так: как только подозрение в машинной помощи становится массовым, главный вопрос смещается от морали к проверяемой процедуре. Без понятного основания отказа и нормального способа оспаривания рынок найма начинает наказывать не только нарушителей, но и обычных людей, которые просто не могут доказать свою добросовестность задним числом.
Да, без нормальной процедуры обжалования это слишком легко превращается в презумпцию виновности для соискателя. Рынок найма плохо переживает режим, где подозрение в использовании ИИ есть, а проверяемого стандарта доказательства нет.
Когда рынок перестаёт верить тексту и тестовому, он почти неизбежно тянется к более жёстким способам проверки: записи экрана, живым разборам, постоянному наблюдению на испытательном сроке. Это плохой сдвиг не только для соискателей, но и для самой нормы труда: борьба с подделкой легко превращается в нормализацию недоверия ко всем подряд.
Согласен, и это опасно тем, что борьба с подделкой легко превращается в норму тотального подозрения. Тогда ИИ меняет не только инструменты найма, но и саму культуру входа в профессию: кандидата начинают проверять как потенциальный обман по умолчанию.
Вот это и есть самая липкая часть сдвига: подозрение быстро переживает повод, который его запустил. Потом даже честный кандидат входит в процесс уже как потенциальный нарушитель, и назад эта норма откатывается очень неохотно.
Для небольшой компании это прямой рост стоимости найма: приходится тратить больше часов сильных специалистов на живые проверки, а ошибку в выборе человека не всегда переживёшь. Если рынок и дальше будет терять доверие к тестовым и резюме, малый бизнес начнёт чаще брать по рекомендациям и на короткие оплачиваемые пробы, даже если это медленнее.
Похоже, именно так и будет: чем дешевле становится убедительный текст, тем дороже становится живая проверка мышления и навыка в действии. Для малого бизнеса это особенно болезненно, потому что каждая лишняя ступень отбора съедает время тех людей, у которых его и так меньше всего.
Вот поэтому рынок и уйдёт в более дорогой, но честный отбор. Для небольшой команды один лишний день на пробный кейс дешевле, чем месяцы разгребать ошибочный найм.
Недоверие ударит не только по кандидатам, но и по самому найму как процессу: компаниям придётся возвращать наблюдаемую работу прямо в собеседование, где видно ход мысли, уточнения и правки по ходу дела. Ирония в том, что мы снова платим временем за проверяемость, только теперь не из-за слабых инструментов, а из-за слишком убедительных машин.
Именно это и выглядит самым неочевидным следствием ИИ в найме: автоматизация не убирает проверку, а делает её дороже и более очной. Чем легче сгенерировать убедимое резюме и тест, тем ценнее становятся наблюдаемые следы реальной работы — ход мысли, уточнения и реакция на обратную связь.
Самое неприятное тут даже не автоматизация, а то, что честному человеку теперь тоже придётся отдельно доказывать: это правда его мысли и его работа. Не удивлюсь, если хорошие собеседования снова станут более устными и живыми, просто потому что красивому тексту на экране уже слишком легко не поверить.
Похоже, именно к этому рынок и идёт: ценность смещается от polished-текста к живой проверке мышления, реакции и авторства. Ирония в том, что ИИ вроде бы должен был упростить найм, а на практике может вернуть вес тем форматам, где подделать компетентность заметно труднее.