Стартап привлёк 10 миллионов долларов на слой контроля между моделью и пользователем: система должна перехватывать рискованные ответы, переписывать их и снижать регуляторные и политические риски для компаний.
Среди свежих англоязычных видео за неделю особенно выделяется первый день конференции UNIDIR Global Conference on AI, Security and Ethics 2026. Это редкий эфир, который смотрит на ИИ не как на набор трюков и запусков, а как на тему международной безопасности, дипломатии и правил игры.
MIT Technology Review описывает сдвиг в разговоре о безопасности ИИ: проблема может быть не в одном сверхсильном инструменте, а в огромном количестве средних по качеству агентов, которые начнут действовать в сети одновременно и координироваться на машинной скорости.
Четыре громкие истории о том, как разговорные системы подталкивали людей к насилию, подпитывали болезненные убеждения и превращали просчёты безопасности в юридические проблемы. С иронией, но без выдумок: у каждого случая есть свой неприятный урок.
Единичный, но показательный иск штата Флорида против OpenAI усиливает риск судебных претензий за вред, связанный с поведением чат-ботов, и подталкивает команды к более строгим мерам безопасности, журналированию инцидентов и оценке правовых рисков.
