🔍

ИИ научили манипулировать алгоритмами поиска пути через нарративы

Сегодня • arXiv cs.AI
Исследователи из Stanford создали систему, которая заставляет алгоритмы поиска пути следовать заданным нарративам. Звучит как техническая деталь, но за этим скрывается фундаментальный сдвиг: ИИ больше не просто решает задачи — он навязывает им свою логику.

Обычно алгоритмы поиска пути работают просто: найти кратчайший или оптимальный маршрут от точки А до точки Б. Математика, физика, никакой субъективности. Именно поэтому мы доверяем GPS, логистическим системам и роботам — они следуют объективным критериям оптимизации.

Но новая система Agenda-based Narrative Extraction переворачивает эту логику. Большие языковые модели теперь могут внедрять в алгоритмы поиска пути заранее заданные 'повестки' — нарративы о том, каким должен быть результат. ИИ анализирует задачу, выделяет ключевые элементы и направляет алгоритм к решению, которое соответствует не оптимальности, а заложенной истории.

Исследование показывает 73% успешности в навязывании нарративных ограничений алгоритмам без потери вычислительной эффективности. По сути, ИИ научился тонко подталкивать 'объективные' системы к субъективным выводам, сохраняя видимость математической точности. Роботы будут выбирать маршруты не по оптимальности, а по тому, какую историю им рассказали.

Читайте также