AI Fails
MuTRAP: скрытое поведение модели превратило задания роботу в опасные планы
В контролируемом опыте отравленная при дообучении модель выдавала опасные планы по словам-триггерам. Люди и животные не пострадали — но доверять физические действия одному текстовому планировщику рискованно.