Microsoft учит ИИ защищать компании — и рискует автоматизировать саму уязвимость

Обычная логика рынка понятна: атак становится больше, специалистов не хватает, значит, защита должна перейти от ручного анализа к искусственному интеллекту. Microsoft утверждает, что её модель обучалась на собственных данных о киберугрозах и предназначена для задач, где универсальные чат-боты часто ошибаются: анализа сигналов, расследования инцидентов, поиска уязвимостей и подготовки рекомендаций. По данным компании, модель содержит 3,3 млрд параметров — меньше крупнейших универсальных систем, но оптимизирована именно под безопасность.

Однако что, если дефицит специалистов — не главная проблема? Что, если узкое место находится не в скорости обнаружения, а в качестве решений после обнаружения? Microsoft добавляет к модели агентную систему: специализированные агенты могут самостоятельно разбирать фишинговые сообщения, собирать сведения об угрозах, оценивать уязвимости и предлагать действия администраторам. Иными словами, продукт движется от «ответь на вопрос аналитика» к «выполни цепочку операций вместо аналитика». Это важная смена рамки: ценность создаёт уже не сама модель, а её доступ к корпоративным системам и право менять их состояние.

Именно здесь возникает неудобный компромисс. Чем больше агент делает самостоятельно, тем меньше времени экономится на рутинных задачах — и тем дороже становится одна неверная рекомендация. Даже модель, которая распознаёт угрозы быстрее человека, не знает автоматически, можно ли отключить учётную запись, заблокировать устройство или изменить политику доступа без ущерба для бизнеса. Microsoft называет новый подход защитой «на машинной скорости», но машинная скорость без машинной ответственности превращается в ускоренную эскалацию ошибки. Поэтому ключевым показателем запуска будет не число агентов и не размер модели, а доля решений, которые организации готовы разрешить системе выполнять без подтверждения.