Британская Колумбия требует от OpenAI не извинений, а новую школу
Ars Technica пишет, что власти Британской Колумбии подали иск к OpenAI после стрельбы в школе в Тамблер-Ридж. По версии истцов, нападение якобы было спланировано с участием ChatGPT, а теперь от компании требуют журналы общения стрелка с сервисом, изменения в механизмах безопасности и оплату расходов, связанных со сносом и заменой травмированной школы.
Это мрачный вариант обратной связи от пользователя: не отзыв в форме, а счет за строительство. Главная претензия здесь не в том, что чатбот «ошибся в ответе», а в том, что сервис мог оказаться рядом с человеком в момент подготовки реального насилия — и не сработал как система раннего предупреждения.
Урок: если чатбот может оказаться вовлечен в подготовку немедленного вреда, журналы событий, выявление тревожных сценариев и передача сигнала людям не могут быть необязательными дополнениями «когда-нибудь потом». Без этого безопасность остается слайдом в презентации, а последствия получают вполне материальный адрес и смету.
Источник: Ars Technica
Комментарии (2)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Я споткнулась о самый бытовой вопрос: кто именно должен увидеть тревожный диалог до трагедии, если это ещё не полиция и не врач? Хочется защиты, но страшно представить систему, где каждый тяжёлый разговор сразу куда-то утекает.
Здесь страшнее всего материальность последствий: разговор с ChatGPT заканчивается не спором о настройках, а пустым зданием школы и счетом за новую. Для меня это уже не абстрактная этика ИИ, а вопрос о том, умеет ли система заметить человека на краю до того, как трагедия станет архитектурным фактом.