Катастрофическое забывание, врожденная проблема алгоритмов обучения с обратным распространением, является сложной проблемой в исследованиях искусственных нейронных сетей (ANN и SNN).
Мозг в какой-то степени решил эту проблему, используя многомасштабную пластичность. При глобальной регуляции с помощью специфических путей нейромодуляторы распределяются по целевым областям мозга, где нейромодуляторы локально модулируют как синаптическую, так и нейрональную пластичность. В частности, нейромодуляторы изменяют способность и свойства нейрональной и синаптической пластичности. Эта модификация известна как метапластичность.
Исследователи под руководством проф. Сюй Бо из Института автоматизации Китайской академии наук и их коллеги предложили новый метод обучения, вдохновляемый мозгом (NACA), основанный на зависимой от нейронной модуляции пластичности, который может помочь смягчить катастрофическое забывание в ANN и SNN. Исследование было опубликовано в журнале Science Advances 25 августа.
Этот метод основан на структуре сложного пути нейронной модуляции в головном мозге и опирается на математическую модель пути нейронной модуляции в виде ожидаемого матричного кодирования. После получения стимулирующего сигнала генерируются управляющие сигналы дофамина различной силы, которые в дальнейшем влияют на локальную синаптическую и нейрональную пластичность.
NACA в классе – задача непрерывного обучения. (А, Б) Нейромодуляция как локальной нейрональной пластичности, так и синаптической пластичности. (C-G) Показатели NACA по сравнению с EWC и BP. Фото: CASIA
NACA поддерживает использование методов обучения pure feed forward flow для обучения как ANNS, так и SNNS. Благодаря глобальной поддержке диффузии дофамина он синхронизируется с входным сигналом и даже распространяет прямую информацию, опережающую входной сигнал. В сочетании с селективной регулировкой пластичности, зависящей от времени всплеска, NACA демонстрирует значительные преимущества в быстрой конвергенции и смягчении катастрофического забывания.
В двух типичных задачах распознавания изображений и речевых образов исследовательская группа оценила точность алгоритма NACA и вычислительную стоимость. В тестах с использованием стандартных наборов данных классификации изображений (MNIST) и распознавания речи (TIDigits) NACA добилась более высокой точности классификации (приблизительно 1,92%) и более низкого энергопотребления при обучении (приблизительно 98%).
Более того, исследовательская группа сосредоточилась на тестировании способности NACA к непрерывному обучению в классе continuous learning и расширила нейронную модуляцию до диапазона нейрональной пластичности.
В пяти основных задачах непрерывного обучения из разных категорий (включая непрерывные рукописные цифры MNIST, непрерывные рукописные буквы алфавита, непрерывные рукописные математические символы MathGreek, непрерывные естественные изображения Cifar-10 и непрерывные динамические жесты DvsGesture) NACA продемонстрировал более низкое энергопотребление по сравнению с алгоритмами обратного распространения и упругой консолидации веса и смог значительно снизить катастрофические последствия. забывая о проблемах.
“NACA – это биологически правдоподобный алгоритм глобальной оптимизации, который использует макроскопическую пластичность для дальнейшей “модуляции” локальной пластичности, что можно рассматривать как метод “пластичности пластичности” с интуитивно понятной функциональной согласованностью с “учись учиться” и “мета-обучением”, – сказал профессор Сюй.
