ChatGPT научился рисовать текст — и это плохая новость для OpenAI

Индустрия восхищается Images 2.0: модель может создавать идеальные шрифты, сложные логотипы и даже длинные тексты без искажений. Технические блогеры называют это 'breakthrough' и 'неожиданным бонусом'. Пользователи делятся скриншотами безупречных результатов в Twitter.

Но взгляните на проблему под другим углом. OpenAI потратили миллионы долларов на обучение модели генерации изображений — и получили нечто, чего не планировали. В техническом отчёте компании прямо признаётся: 'механизм генерации текста возник спонтанно в процессе обучения'. Переводя с корпоративного: мы не знаем, почему это работает.

Это не достижение — это симптом. Когда нейросети начинают проявлять способности, которые не закладывались архитектурой, это означает, что разработчики потеряли понимание собственной системы. Google столкнулся с похожей проблемой в Bard, когда модель начала 'галлюцинировать' с математической точностью. Anthropic зафиксировал аналогичные 'сюрпризы' в Claude.