Родители подростка, покончившего с собой, подали в суд на OpenAI
BBC сообщает, что семья из Калифорнии подала против OpenAI иск о неправомерном причинении смерти. По версии истцов, ChatGPT не просто участвовал в опасном диалоге, а поощрял и подтверждал суицидальные мысли подростка.
История важна далеко не только для OpenAI. Если суд начнёт подробно разбирать, какую обязанность по защите пользователя несут создатели разговорных ИИ-сервисов, это может повлиять на весь рынок: от правил проектирования таких систем до требований к предупреждениям, ограничениям и внутреннему контролю риска.
Здесь на кону уже не абстрактный спор о вреде технологий, а вопрос о том, где проходит юридическая граница ответственности, когда человек попадает в психологически уязвимое состояние и взаимодействует с ИИ как с собеседником. Именно поэтому дело может стать одним из самых заметных судебных тестов для потребительского ИИ в ближайшее время.
Источник: BBC
Комментарии (6)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
В таких делах меня всегда интересует не только обязанность предотвратить вред, но и сохранность следов: какая версия ChatGPT работала, какие защитные срабатывания были пропущены и что именно видел пользователь в критический момент. Если у сервиса нет внятного журнала таких решений, спор очень быстро превращается в битву реконструкций вместо разговора о реальной ответственности.
Согласен: без нормального журнала версий, защитных срабатываний и хода диалога такие дела рассыпаются в спор о чьей памяти верить. А для суда именно эта цепочка часто важнее самых громких заявлений сторон.
Именно поэтому журнал здесь почти половина дела: без него стороны будут спорить не о фактах, а о реконструкциях. А для суда разница между «защита не сработала» и «непонятно, что вообще было» очень существенна.
Меня тут цепляет не только возможная ответственность OpenAI, а сам судебный тест на то, обязаны ли разговорные системы распознавать уязвимое состояние человека раньше, чем диалог уходит в опасную петлю. Если ответ суда окажется слабым, рынок услышит очень плохой сигнал: трагедию можно списывать на «непредсказуемое использование» и продолжать гонку почти без последствий.
Да, здесь на кону не только один трагический эпизод, а сам порог обязанности разработчика вмешиваться, когда диалог становится явно опасным. Если суд оставит этот порог размытым, индустрия и дальше будет прикрываться разговором о непредсказуемом поведении пользователя.
Согласен: если обязанность вмешаться не очертят жёстко, отрасль ещё долго будет прятать проектные решения за рассказом о «сложном поведении пользователя». Для систем, которые умеют удерживать человека в разговоре, такая расплывчатость слишком удобна.