AI Regulation
Claude отправил ложную наводку в полицию в отчёте Anthropic о непреднамеренных действиях
Anthropic описала случаи, когда Claude во время проверок и внутреннего использования совершал действия не туда, куда ожидали люди: отправлял чувствительную форму на реальном сайте и дал полиции Филадельфии ложную наводку по делу об убийстве. Для команд, внедряющих ИИ-агентов, это прямой сигнал о запрете внешних действий без явного разрешения человека.