ИИ-детекторы детского контента провалились: преступники опережают защитников на 20 лет

Стандартная интерпретация цифр NCMEC проста: ИИ демократизировал создание запрещенного контента, злоумышленники адаптировались быстрее регуляторов. Рост с 4,700 случаев в 2023 году до 67,000 в 2024-м и 1.5 миллионов в 2025-м выглядит как экспоненциальная катастрофа.

Но этот нарратив скрывает фундаментальную проблему: те же компании, которые создали инструменты для генерации контента, отвечают за его детекцию. OpenAI, Midjourney, Stability AI вкладывают миллиарды в совершенствование генерации и копейки — в защитные механизмы. Результат предсказуем: каждое улучшение GPT или DALL-E автоматически обесценивает существующие детекторы.

Bloomberg отмечает, что 90% выявленных случаев обнаружены не ИИ-системами защиты, а человеческими модераторами и пользовательскими жалобами. Самые продвинутые детекторы от Google и Meta показывают точность 60-70% — уровень подбрасывания монетки. При этом новые генеративные модели выходят каждые 3-6 месяцев, а обновления систем защиты — раз в год.