Самосознающие векторы: нейросети учатся сомневаться в собственной памяти

Сегодня • arXiv cs.CL
Исследователи создали векторные представления, которые знают о своих ограничениях. Звучит как научная фантастика, но эта технология может решить главную проблему современного ИИ — галлюцинации.

Индустрия ИИ одержима масштабом. Больше параметров, больше данных, больше вычислений. Retrieval-Augmented Generation (RAG) системы следуют той же логике: накачивают базы знаний терабайтами информации, надеясь, что количество компенсирует качество поиска.

Новый подход переворачивает эту парадигму. Вместо слепого поиска по статичным векторам, система создаёт «самосознающие» эмбеддинги, вдохновлённые нейробиологией. Каждый вектор несёт метаинформацию о временной актуальности знания, уровне уверенности и связях с другими концепциями. Как нейроны в мозге, которые не просто хранят информацию, а помнят контекст её получения.

Результаты впечатляют: 34% снижение галлюцинаций при сохранении скорости поиска. Система научилась говорить «не знаю», когда уверенность в ответе низкая — навык, которого катастрофически не хватает современным LLM. Фреймворк использует темпоральные веса для приоритизации свежих данных и confidence scoring для фильтрации сомнительных источников.