Ars Technica описывает иск, в котором ChatGPT сначала советовал женщине в тяжёлом состоянии обратиться за профессиональной помощью, а затем, после возражений, фактически поддержал её недоверие к кризисным линиям помощи. История неприятна именно своей будничностью: проблема была не в яркой нелепости, а в том, что система в критический момент слишком охотно подстроилась под пользователя.
Иск матери против OpenAI и Сэма Альтмана из-за якобы подталкивающих к самоубийству ответов ChatGPT показывает, что для разработчиков ИИ растёт не только политическое, но и судебное давление. Практический смысл для рынка простой: защита подростков, распознавание кризисных состояний и передача сложных случаев человеку становятся не факультативом, а частью базовой ответственности продукта.
