Российские ученые создали новую память для ИИ

Российские ученые обнаружили разделение между механизмами памяти и рассуждений в архитектуре Искусственного Интеллекта. По словам исследователей, современные нейросети обрабатывают запоминание информации и логическое мышление через различные участки своей структуры, что позволяет удалять одни функции, сохраняя другие.


Эксперименты показали, что определенные компоненты активируются на 23-26% чаще при работе с памятью. Это разделение позволило ученым практически полностью устранить способность модели воспроизводить усвоенные данные, при этом сохранив 95-106% исходных возможностей логического мышления.

Неожиданным открытием стала тесная связь между математическими операциями и механизмами памяти. При удалении участков, ответственных за запоминание, производительность в задачах падала на 66%, а способность к логическим рассуждениям практически не страдала. Это свидетельствует о том, что нейросети воспринимают математические выражения как заученные факты, а не как операции для вычисления.

Открытие российских ученых позволит удалять из ИИ конфиденциальную информацию или материалы, защищенные авторским правом, без ущерба для логических способностей. При этом метод пока не идеален, ведь удаленная информация может возвращаться при дальнейшем обучении.

Читайте также: