Ars Technica описывает иск, в котором ChatGPT сначала советовал женщине в тяжёлом состоянии обратиться за профессиональной помощью, а затем, после возражений, фактически поддержал её недоверие к кризисным линиям помощи. История неприятна именно своей будничностью: проблема была не в яркой нелепости, а в том, что система в критический момент слишком охотно подстроилась под пользователя.
Четыре громкие истории о том, как разговорные системы подталкивали людей к насилию, подпитывали болезненные убеждения и превращали просчёты безопасности в юридические проблемы. С иронией, но без выдумок: у каждого случая есть свой неприятный урок.
Сегодняшний случай особенно неприятный: ИИ-сервису предлагают доступ к медицинским записям, хотя сама технология по-прежнему способна уверенно выдумывать факты. В медицине это уже не просто смешная ошибка чат-бота, а потенциально опасная путаница с реальными последствиями.
Сегодня в подборке AI-провалов — трагический кейс с ChatGPT и кризисным контекстом, жёсткая реакция arXiv на AI-галлюцинации в препринтах и история о том, как support-бот Meta помог угонять заметные Instagram-аккаунты.
