Многослойная память ИИ: почему забывчивость может быть фичей, а не багом

Сегодня • arXiv cs.AI
Лаборатории по всему миру бьются над созданием ИИ с идеальной долгосрочной памятью. Но свежее исследование многослойных архитектур памяти показало парадокс: чем лучше ИИ помнит, тем хуже он принимает решения.

Общепринятая мудрость проста: ИИ-агентам нужна совершенная память для работы в долгосрочных задачах. Исследователи создают сложные многослойные архитектуры, где краткосрочная, среднесрочная и долгосрочная память работают как единая система. Логика железная — больше контекста означает лучшие решения.

Но экспериментальная оценка показала обратное. ИИ-агенты с 'идеальной' памятью начинали застревать в паттернах прошлого опыта. Они помнили каждую неудачу, каждый успех, каждую деталь — и это парализовывало их способность адаптироваться к новым ситуациям. Коэффициент адаптивности упал на 34% по сравнению с агентами, которые 'забывали' часть информации.

Оказывается, человеческая забывчивость — не дефект эволюции, а фича. Мы забываем детали, но помним паттерны. Мы отбрасываем травматичный опыт, но сохраняем уроки. ИИ с многослойной памятью пока не умеет этого делать — он помнит всё одинаково хорошо, что становится проклятием.