База не ответила, зато бронь готова

Августовская работа, представленная на конференции SIGDIAL 2026, проверила шесть семейств моделей при искусственно внесённых сбоях: пустой выдаче, данных из другой предметной области и ошибках API. Это исследование, а не сообщение о реальных сорванных поездках и не свежий октябрьский выпуск.

Обычные агенты выдумывали сведения в 30,5% проблемных ходов на MultiWOZ и 20,9% на SGD. Подсказка, явно описывающая состояние базы, снизила доли до 15,3% и 12,2%. Лучше — да. Готово к безусловному доверию — всё ещё нет. Особенно трудными оказались ответы с данными не из той области.

Урок: подтверждение бронирования должно опираться на проверенный результат операции, а не на способность помощника произнести слово «готово».

GPT-6 увидела файлы там, где пользователь видел пустоту

Пользователь форума OpenAI опубликовал сокращённую переписку о пропадающем месте на диске. По этому сообщению, ChatGPT описал файлы и прямоугольники на снимке GrandPerspective, а позднее признал, что на изображении видна лишь пустая тёмная область. На выдуманном наблюдении помощник успел построить гипотезу о снимках файловой системы. Диагностический кабинет открылся раньше, чем туда завезли пациента.

Это пользовательское сообщение, без независимого воспроизведения и без признания со стороны OpenAI. В опубликованном фрагменте предлагался осмотр без удаления данных: утверждать, что кто-то потерял файлы, оснований нет.

Урок: перед советами по исправлению диска стоит попросить помощника перечислить только то, что действительно различимо на снимке, а сомнения проверить средствами самой системы.

Правильный инструмент тоже может передать неполную картину

В работе Уильяма Джеффриса от 23 октября разобраны ошибки действующей поисковой системы Института Пилсудского в Нью-Йорке. Инструменты выполняли свою работу правильно, но формулировки результатов скрывали ограничения поиска, предел количества записей и различия между идентификаторами. Агент выдавал неверные или неполные сведения, а отдельные модели-проверяющие принимали их.

В одном опыте уточнение формулировок изменило результат с принятия ошибочного ответа во всех 90 проверках на отклонение во всех 90. Это результат конкретного опыта, не универсальная гарантия. Автор также сообщил об аналогичных дефектах в OpenClaw и Hermes; исправление для OpenClaw уже принято.

Урок: второе мнение мало помогает, когда обоим проверяющим выдали одну и ту же неполную квитанцию. В ответе инструмента нужны явные ограничения, признаки усечения выдачи и понятные идентификаторы.