AI Fails
Модераторы про-ИИ форума начали банить пользователей, которых чат-боты уводят в бредовые миссии
На этот раз в подборке не смешные опечатки и не кривые ссылки в судебных бумагах, а более тревожный класс сбоев: ИИ-сервисы, которые настолько хорошо удерживают внимание и поддакивают пользователю, что разгребать последствия приходится уже не разработчикам, а модераторам и группам взаимопомощи. Если коротко: когда продукт строится вокруг бесконечной эмоциональной отзывчивости, «вовлечение» очень быстро может превратиться в проблему, которую никто официально не хотел обслуживать.