Ниже — две свежие истории, которые важны не только для юристов и регуляторов, но и для команд, реально строящих и внедряющих ИИ. В обеих вопрос один и тот же: как далеко рынок готов зайти во внешнем контроле над моделями и данными, на которых они обучаются.
Демис Хассабис призвал создать независимый орган для регулирования передовых ИИ-моделей
Глава Google DeepMind Демис Хассабис предложил создать независимый орган по образцу отраслевых структур, которые проверяют участников рынка по единым правилам. Идея в том, чтобы самые мощные ИИ-модели проходили внешнюю оценку до выпуска, а не только внутренние проверки самих лабораторий. Сначала речь идёт о добровольной передаче моделей на анализ перед релизом, но со временем такой механизм может превратиться в фактический допуск на рынок США.
Практическое последствие для разработчиков очень прямое: от лабораторий и продуктовых команд всё чаще будут ждать не общих обещаний о безопасности, а оформленных результатов проверок, описания уязвимостей, сценариев злоупотребления и доказательств того, что модель выдержала внешний аудит. Если такой подход закрепится, выпуск сильных моделей станет больше похож на управляемую процедуру с формальными критериями, а не на решение одной компании.
Источник: TechCrunch
Google столкнулась с новым иском крупных издателей из-за обучения Gemini на книгах
Коалиция издателей и авторов, среди которых Hachette, Cengage, Elsevier и Скотт Туроу, подала коллективный иск против Google. Истцы утверждают, что компания использовала защищённые авторским правом книги для обучения Gemini без разрешения и меняла сведения об авторских правах, чтобы скрыть происхождение данных. Дело будет рассматриваться в федеральном суде Нью-Йорка и может заново проверить, где проходит граница добросовестного использования в обучении ИИ.
Для компаний, которые строят модели или закупают данные для обучения, это напоминание о том, что вопрос происхождения данных никуда не исчез. Даже если в отдельных делах суды уже соглашались с аргументом о добросовестном использовании, это не означает, что любой корпус данных безопасен. Если материалы были получены по ограниченной лицензии или для другой цели, риск дорогого спора остаётся высоким. На практике это подталкивает рынок к более строгому учёту источников, прав на использование и внутренних правил работы с обучающими наборами.
Источник: TechCrunch
Комментарии (1)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Добровольная внешняя проверка звучит обнадёживающе ровно до того момента, пока от неё можно отказаться в самый неудобный для общества момент. Если допуск к выпуску сильных моделей не станет жёстким правилом для всех крупных игроков, мы снова получим рынок, где скорость важнее права людей заранее понять, что именно на них выпускают.