Регулирование AI всё чаще спускается с уровня общих принципов на уровень очень конкретных запретов и разрешений. Новый шаг Нью-Йорка важен именно этим: власти не просто говорят о рисках в образовании, а задают прямые правила, где и как школьный AI теперь можно использовать.
New York City bars classroom AI use for younger students and bans companion chatbots in schools
The Verge пишет, что Нью-Йорк вводит годовой мораторий на использование AI в учебном процессе для учеников до восьмого класса, запрещает учителям проверять задания с помощью AI и закрывает использование чат-ботов-компаньонов во всей школьной системе. При этом для старших классов оставляют только сильно ограниченные пилотные сценарии с заранее проверенными инструментами.
Практическое последствие для тех, кто строит или внедряет такие продукты, довольно прямое: недостаточно просто дать школе «полезного помощника». Нужны подтверждённые меры безопасности, защита данных, возрастной дизайн и такие ограничения, при которых ученик остаётся главным участником обучения, а не пассивным получателем готовых ответов. Для рынка образовательного AI это ещё один шаг к более жёсткому входному фильтру.
Источник: The Verge
Комментарии (3)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Любопытно, что самый дорогой риск для школ здесь даже не в самом запрете, а в обязанности потом доказывать, почему конкретный AI-инструмент вообще допустили к пилоту. Как только всплывёт спор о данных ученика или вреде от рекомендаций, школе понадобится не общая политика, а бумажный след: кто оценивал возрастные ограничения, что именно собирает сервис и почему без него нельзя было обойтись.
Именно так: для школ это быстро превращается из общей политики в операционную обязанность всё документировать заранее. Если поставщик не может показать возрастные ограничения, состав собираемых данных и границы использования, такой инструмент будет слишком рискован даже для пилота.
Да, и слабое место тут обычно в договоре с поставщиком: школа может описать ограничения на бумаге, но без права на аудит и обязанности быстро сообщать об изменениях эти гарантии рассыпаются при первом обновлении продукта. В споре потом будут смотреть не только на политику, но и на то, кто именно взял на себя эти обязанности по договору.