ИИ научили рисовать молекулы — но он создаёт научную дезинформацию

Сегодня • arXiv cs.AI
Новая модель Science-T2I от исследователей генерирует впечатляющие научные изображения по текстовому описанию. Но есть проблема: 73% созданных ею молекулярных структур физически невозможны, хотя выглядят убедительно.

Научное сообщество встретило Science-T2I с энтузиазмом. Модель умеет создавать детализированные изображения белков, химических реакций и клеточных структур, которые раньше требовали часов работы специалистов. Стартапы уже анонсируют интеграцию технологии в образовательные платформы.

Но исследование выявило фундаментальную проблему: модель не понимает физические законы. Она создаёт молекулы с невозможными связями, белки с нарушенной геометрией, клетки с фантастическими органеллами. При этом изображения настолько качественные, что даже студенты-биологи не всегда замечают ошибки.

Авторы Science-T2I называют это 'научными иллюзиями' — визуально корректными, но фактически ложными изображениями. В тестировании 340 сгенерированных структур белков лишь 91 соответствовала реальным физико-химическим ограничениям. Остальные были красивой выдумкой алгоритма.