ИИ-агенты учат логике через онтологии — но это может убить их креативность

Индустрия долго искала способ сделать ИИ-агентов надёжными в корпоративной среде. Проблема классическая: GPT может написать блестящий код, но не понимает, что в банке нельзя одобрить кредит без проверки кредитной истории. Нейросимволическая архитектура решает это, жёстко привязывая рассуждения агента к онтологиям — формальным описаниям правил предметной области.

Но вот парадокс: чем строже онтологические ограничения, тем менее творческими становятся решения. В тестах MIT агенты с жёсткими онтологическими рамками показали 94% точность в соблюдении бизнес-правил, но на 67% реже предлагали нестандартные решения по сравнению с обычными языковыми моделями. Получается идеальный корпоративный исполнитель, который никогда не нарушит регламент и никогда не предложит что-то революционное.

Исследователи это знают, но считают приемлемой платой. 'Нам нужны агенты, которые работают предсказуемо в критически важных системах', — объясняет ведущий автор исследования. Проблема в том, что 'предсказуемо' в корпоративном мире часто означает 'как всегда', а инновации рождаются именно из нарушения установленных паттернов.