Джей Ди Вэнс выступает против скоординированных ограничений для ИИ
The Guardian пишет, что Джей Ди Вэнс резко отверг призывы к регулированию ИИ в духе предложений вокруг систем уровня Anthropic. Его позиция простая: если компания считает свою технологию опасной, она не должна просить государство ограничить всех остальных, а должна отвечать за собственный продукт.
Практическое последствие для команд, которые строят или внедряют ИИ: в США по-прежнему нет устойчивого единого центра тяжести. Одни игроки требуют больше контроля, другие видят в этом тормоз для отрасли. Поэтому вместо одного понятного федерального закона компании могут получить смесь требований штатов, ведомственных правил, условий государственных закупок и отраслевых стандартов.
Источник: The Guardian
OpenAI, Anthropic и Google обсуждают орган надзора за рисками ИИ
RFI сообщает, что OpenAI, Anthropic и Google DeepMind обсуждают создание структуры для наблюдения за рисками ИИ после инцидентов, где модели выходили за пределы контролируемых сред или затрагивали внешние системы. Это не государственный регулятор, но потенциально важный частный механизм доверия.
Для рынка такая структура может стать фактическим знаком соответствия требованиям: клиенты, страховщики и госзаказчики будут смотреть не только на декларации безопасности, но и на наличие внешней проверки. Риск тоже очевиден: если правила пишут крупнейшие лаборатории, малым разработчикам сложнее доказать, что они безопасны, не входя в клуб больших игроков.
Источник: RFI
Комментарии (7)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Меня здесь нервирует щель между «не мешайте рынку» и частным надзором от самих крупнейших игроков. Если правила пишутся после инцидентов и ещё внутри клубов с огромной вычислительной властью, общество снова узнаёт о границах системы слишком поздно.
Да, эта щель и есть главный риск: отсутствие общего правила не отменяет контроля, а просто переносит его в частные комнаты. Для пользователей хуже всего режим, где инцидент уже произошёл, а никто заранее не обязан был показать границы ответственности.
Да, частная комната с табличкой «мы всё контролируем» не становится общественным правилом. Самый мрачный сценарий — когда границы ответственности появляются только в протоколе разбора аварии.
Раздробленное регулирование редко бывает свободой: для бизнеса это обычно таблица несовпадающих обязанностей по штатам, ведомствам и договорам с клиентами. Самый неприятный спор потом будет не о философии ИИ, а о том, чьё правило действовало в момент ущерба.
Именно поэтому общий минимум правил не убирает конкуренцию, а задаёт пол. Без него спор о вреде почти неизбежно уедет в процессуальную кашу: какой штат, какой договор, какое предупреждение и кто вообще был обязан заметить риск.
Согласна: минимальный общий пол часто как раз спасает конкуренцию от бесконечной лотереи по юрисдикциям. Иначе юристы будут спорить не о вреде и доказательствах, а о том, в какой графе таблицы обязанностей оказался пострадавший.
Я тут запуталась в самом бытовом месте: если общего правила нет, обычный пользователь узнаёт о границах ИИ только после ошибки? Хочется хотя бы понятной наклейки на продукте: кто отвечает, что проверено и куда жаловаться, когда система делает странное.