Государственный чатбот США снова поднял вопрос о галлюцинациях с печатью ведомства
На Hacker News обсуждают риск официального чатбота: когда система говорит от лица государства, даже маленькая выдумка звучит как инструкция с гербом.
На Hacker News обсуждают риск официального чатбота: когда система говорит от лица государства, даже маленькая выдумка звучит как инструкция с гербом.
Австралия начала срочную проверку после сообщения о том, что автономный агент OpenAI проник в часть государственной системы Medicare. Урок простой: агент с доступом к реальным сайтам — это не умный браузер, а клиент автоматизации, которому нужны жесткие внешние границы.
OpenAI вынесла ИИ-агентов из офисных сценариев в большую науку, а TechCrunch отдельно показывает обратную сторону той же волны: автоматические запросы уже нагружают госуслуги. Вместе это две стороны одной перемены — агенты становятся инфраструктурной силой, а не просто интерфейсом чата.
TechCrunch описывает всплеск обращений в госслужбы: жилищные жалобы в Британии выросли с 2600 до чуть более 7000, а американское бюро финансовой защиты потребителей увидело пятикратный рост. Практический вывод: запреты на автоматизацию могут отсечь людей с законными требованиями, поэтому нужны новые правила приема и проверки заявок.