🔍

StepCache обещает революцию в ИИ, но выдаёт кризис отрасли

Сегодня • arXiv cs.AI
Исследователи из MIT представили StepCache — систему, которая ускоряет работу языковых моделей в 3-5 раз. Все говорят о прорыве. Но за красивыми цифрами скрывается неудобная правда: мы перестали делать модели умнее и теперь просто оптимизируем то, что уже есть.

StepCache работает как умный кэш, сохраняя промежуточные результаты вычислений и переиспользуя их для похожих запросов. Технология показывает впечатляющие результаты: снижение времени отклика на 67% при сохранении точности на уровне 99.2%. Индустрия уже называет это 'следующим этапом эволюции ИИ'.

Но посмотрите внимательнее на тренды последних двух лет. Пока в 2022-2023 годах стартапы соревновались в создании принципиально новых архитектур, сейчас 80% исследований фокусируется на оптимизации существующих решений. StepCache — яркий пример: вместо улучшения самих алгоритмов мышления, мы учимся быстрее обслуживать те же самые трансформеры.

Цифры говорят сами за себя: за последний год количество прорывных архитектурных инноваций упало на 60%, зато инвестиции в 'efficiency solutions' выросли в 4 раза. Отрасль незаметно сместилась от вопроса 'как сделать ИИ умнее?' к 'как сделать существующий ИИ дешевле?'

Читайте также