Федеративное обучение ИИ: почему персонализация убивает настоящий интеллект

Федеративное обучение стало мантрой индустрии: данные остаются на устройствах, модели учатся локально, приватность защищена. Новое исследование идёт дальше — каждый пользователь получает персонализированную версию языковой модели, адаптированную под его конкретные задачи. Apple уже тестирует подобные решения в Siri, Google внедряет в Gboard.

Но вот парадокс: чем больше модель подстраивается под конкретного пользователя, тем хуже она справляется с задачами за пределами его опыта. В эксперименте Stanford персонализированные модели показали на 34% худшие результаты в задачах общего назначения по сравнению с централизованными аналогами. Причина проста: узкая специализация убивает способность к обобщению — главное качество интеллекта.

Получается замкнутый круг: пользователи получают ИИ-ассистентов, которые идеально понимают их привычки, но становятся беспомощными в новых ситуациях. Федеративное обучение создаёт не умных помощников, а цифровых эхо-камер, которые усиливают существующие паттерны мышления вместо расширения горизонтов.