Эти две работы интересны не громким анонсом новой модели, а тем, что обе вскрывают скрытую цену удобства. Чем естественнее ИИ встраивается в обучение и научную работу, тем важнее становится не скорость получения ответа, а способность человека заметить, где система искажает смысл, подталкивает к стереотипу или создаёт ложное чувство понимания.

Исследование показало перенос гендерных стереотипов из ИИ в студенческие тексты

В контролируемом исследовании с участием 123 человек авторы показали, что предвзятые подсказки языковой модели могут переходить в собственные тексты студентов. Особенно заметно это проявилось в снижении субъектности в эссе о женщинах и в более стереотипном описании профессий.

Почему это важно: проблема предвзятости здесь перестаёт быть чем-то, что остаётся внутри ответа модели на экране. Работа показывает более неприятный сценарий, при котором ИИ влияет уже на человеческое суждение и язык, то есть меняет не только черновик, но и сам способ формулировать мысли.

Источник: arXiv

Главным навыком работы с ИИ в обучении и науке авторы назвали внимательную проверку

Авторы второй работы утверждают, что решающий навык в использовании ИИ для науки и образования — не умение красиво составлять запрос, а готовность постоянно проверять полученный ответ и не доверять гладкому тексту автоматически. Из этого вытекает более широкий вывод: люди с сильной базовой подготовкой получают от тех же инструментов больше пользы, потому что лучше замечают ошибки и слабые места.

Почему это важно: если этот вывод верен, ИИ в образовании может не только помогать, но и усиливать уже существующее неравенство между более и менее подготовленными пользователями. Тогда разговор о массовом внедрении таких систем должен идти не только вокруг доступа к инструменту, но и вокруг навыков проверки, без которых удобство быстро превращается в источник новых ошибок.

Источник: arXiv