🔍

Agent Orchestration: Почему армии ИИ-агентов обречены на хаос

Сегодня • MIT Technology Review AI
Каждый день появляется новый стартап, обещающий оркестрацию ИИ-агентов для автоматизации бизнеса. Но есть проблема: чем больше агентов взаимодействуют, тем выше вероятность каскадного сбоя. И никто об этом не говорит.

Venture-капитал вкладывает миллиарды в платформы агентной оркестрации. CrewAI привлек $18M, AutoGen от Microsoft позиционируется как будущее корпоративной автоматизации, а десятки стартапов обещают 'симфонии ИИ-агентов'. Логика кажется безупречной: если один агент хорош, то сеть агентов — революция.

Но математика distributed systems жестока. Когда 10 агентов взаимодействуют, возникает 45 потенциальных связей. При 20 агентах — уже 190. Каждая связь — точка отказа. Исследование MIT показало: системы из 5+ агентов демонстрируют экспоненциальный рост непредсказуемого поведения. Частота 'галлюцинаций' растет не линейно, а по степенному закону.

Реальность ещё хуже. В отличие от микросервисов, ИИ-агенты не детерминированы. Они интерпретируют, предполагают, ошибаются. Когда агент A передает задачу агенту B, контекст искажается как в игре 'испорченный телефон'. Результат: системы, которые работают в демо, но разваливаются в production при первой нестандартной ситуации.

Читайте также