Эти два материала показывают разные стороны проверки ИИ: сначала нужно получить свидетельства его работы, затем понять, по каким критериям оценивать результат. Сопоставимых голосов и рейтингов в находках нет, поэтому порядок редакционный.

Безопасность агентов начинается с того, что среда действительно записывает

Мадхулика Шрикумар и Клэр Лейбович из Partnership on AI объясняют в авторской статье MIT Technology Review: требование наблюдать за агентами в реальном времени мало помогает, если среда не сохраняет сведения об их идентичности, вмешательствах человека и изменениях прав или памяти. Нужны и технические следы действий, и правила допустимого поведения — один журнал ещё не отвечает на вопрос, нарушена ли политика организации.

Проверять учебный ответ — значит оценивать больше, чем его точность

В препринте Хеджон Ли и Вонджин Ю анализ взаимодействий студентов с чат-ботами и письменных размышлений выделяет восемь критериев: точность, полноту, соответствие задаче, персонализацию, практичность, творческую ценность, этику и предвзятость. Главная мысль — учить суждению о пригодности ответа для конкретной ситуации; предложенная рамка сама по себе не доказывает эффективность отдельной учебной программы.