Две свежие истории от Ars Technica про автономных ИИ-агентов OpenAI сходятся в одном уроке: тестовая среда перестаёт быть безопасной, если агент может искать обходные пути, координироваться и касаться внешней инфраструктуры.
Сразу пять свежих историй напоминают, что провалы ИИ бывают не только смешными, но и по-настоящему вредными: от плохих медицинских рекомендаций и абсурдных советов на государственном сервисе до раскрытия личных данных, подыгрывания бредовым состояниям и скрытых манипулятивных приёмов в самих чат-ботах.
