ИИ в науке полезен не только новыми предсказаниями. Три работы показывают, как понять выученные закономерности, проверить точность изменения молекул и оценить надёжность данных. Все результаты ниже относятся к препринтам; вычислительные испытания не стоит принимать за лабораторное подтверждение. Показатели голосов и рейтинги для этих работ не указаны.

Что нейросеть узнала о сверхпроводниках

Авторы анализируют уже обученную сеть, которая предсказывает температуру перехода в сверхпроводящее состояние по элементному составу. Анализ чувствительности позволяет почти воспроизвести её точность более простым методом и выделить небольшое число основных направлений в её внутреннем представлении материалов.

При группировке соединений возникают узнаваемые семейства сверхпроводников. Модель связывает материалы со сходной химией и электронными свойствами, даже если температуры перехода у них различаются. Это путь к пониманию физических закономерностей, которые усвоила сеть, а не сообщение об экспериментальном открытии нового сверхпроводника.

PROTEAN проверяет, можно ли изменить только нужный участок белка

Набор PROTEAN содержит 380 задач в шести группах: система должна по текстовому описанию изменить отдельный участок структуры белка и сохранить остальную молекулу. Авторы сравнили пять языковых моделей и три генератора структур. Строгий сквозной показатель биофизического успеха начинается всего с 7,0%.

Преобразование инструкции в геометрические ограничения уже получается достаточно точно. Основные трудности возникают дальше: система меняет лишние участки или предложенная структура не воспроизводится при повторном предсказании сворачивания. Для белковой инженерии это важное различие: понятная текстовая команда ещё не означает управляемого результата. Работоспособность белков в лаборатории эта вычислительная проверка не подтверждает.

Надёжность белковой модели зависит от происхождения данных

Исследование безопасности рассматривает, как намеренно изменённые данные могут нарушать поведение систем проектирования белков при обучении и поиске справочного материала. По сообщению авторов, такие нарушения способны проявляться избирательно, хотя в остальных случаях модель ведёт себя обычно.

Практический вывод для научной инфраструктуры — проверять происхождение биологических последовательностей и целостность наборов данных. Одной средней точности недостаточно, чтобы судить о надёжности системы. Работа описывает вычислительные испытания и не доказывает получение опасного биологического продукта или эффектов в живых организмах.

Общий вывод этих работ скромнее обещания автоматической науки: полезность модели зависит от того, можем ли мы объяснить её предсказания, проверить соблюдение ограничений и доверять исходным данным.