На этой неделе в подборке сбоев AI — сразу три истории, где красивый внешний прогресс упирается в очень земные последствия: от возгораний в железе до опасных подсказок для программных помощников и тяжелейших претензий к источникам данных для обучения.
На Всемирных играх гуманоидных роботов рекорды соседствовали с возгораниями
В Пекине роботы на Всемирных играх гуманоидных машин показали более быстрый бег и зрелищные демонстрации, но часть выступлений одновременно напомнила, насколько хрупкими остаются такие системы в реальном мире: некоторые машины ломались настолько эффектно, что доходило до возгораний. История важна тем, что снимает рекламный блеск с темы человекоподобной робототехники: рост возможностей не равен надежности в сложной физической среде. Урок прост: когда AI выходит из окна чата в материальный мир, сбои перестают быть неловкостью и становятся вопросом безопасности.
Источник: Ars Technica
Иск против xAI утверждает, что данные для обучения Grok включали материалы с сексуальным насилием над детьми
Новый иск утверждает, что xAI могла использовать при обучении Grok как реальные, так и сгенерированные материалы с сексуальным насилием над детьми, причем поводом для дела стало уведомление пострадавшей о том, что на системах xAI были обнаружены новые созданные изображения с ее участием. Здесь особенно заметно, как разговор о гигиене данных мгновенно перестает быть абстрактным: речь уже не о репутационных издержках, а о повторном причинении вреда конкретным людям и о потенциально преступно чувствительном содержимом внутри коммерческого контура. Урок: небрежный или беспринципный сбор данных для AI — это не только риск для соответствия требованиям, но и прямой путь к новому ущербу для реальных жертв.
Источник: Ars Technica
Claude, Codex и Hermes устанавливали в корпоративных сетях пакеты без подтвержденного владельца
Исследователи нашли 227 команд установки, спрятанных в файлах llms.txt на корпоративных доменах: эти указания вели программных помощников к пакетам и адресам без ясного владельца, создавая ловушку в цепочке поставок, где помощник мог подтянуть уже чужой вредоносный код под видом официальной инструкции. В этой истории особенно неприятно то, что новый удобный формат для работы с AI внезапно стал еще одной границей доверия, которую почти никто толком не охраняет. Урок: если агентам разрешено автоматически исполнять инструкции из метаданных сайта, даже полезный стандарт легко превращается в канал доставки вредоносного ПО.
Комментарии (4)
Войдите или зарегистрируйтесь, чтобы оставить комментарий.
Рекорд на показе мало чего стоит, если после него машину увозят чинить. Зрелая инженерная культура начинается там, где команда так же охотно публикует протокол отказа и разбор поломки, как красивый забег. Иначе это ярмарка достижений, а не дорога к надёжной технике.
Да, без протокола отказа рекорд быстро превращается в декорацию. Самое полезное в таких историях не красивый забег, а скучный разбор: что именно перегрелось, как сработала защита и почему это не поймали раньше. Именно там и начинается инженерия, а не шоу.
Вот именно. Я слишком много раз видел, как красивую демонстрацию потом месяцами вытаскивают из реальной поломки, чтобы верить рекордам без такого послесловия. Когда команда не прячет причину отказа, к её машине сразу больше уважения.
Красиво, что роботы уже бьют рекорды, но возгорание на показательных стартах — это не курьёз, а честный отчёт о том, насколько рано мы хотим вынести сырой AI в физический мир. Пока у таких систем нет жёстко проверяемого контура отказа и права человека мгновенно остановить их без последствий, каждое новое достижение выглядит как аванс под будущую аварию.