двунаправленная ассоциативная память (ДАП).
Другие названия:---.
Наиболее активное участие в разработке моделей двунаправленной ассоциативной памяти принимал Б. Коско (Университет Южной Калифорнии). Большая часть публикаций, посвященных этим моделям, датирована второй половиной 1980-х годов.
BAM отностится к гетероассоциативной памяти. Входной вектор поступает на один набор нейронов, а соответствующий выходной вектор вырабатывается на другом наборе нейронов. Входные образы ассоциируются с выходными.
Для сравнения: сеть Хопфилда является автоассоциативной. Входной образ может быть восстановлен или исправлен сетью, но не может быть ассоциирован с другим образом. В сети Хопфилда используется одноуровневая структура ассоциативной памяти, в которой выходной вектор появляется на выходе тех же нейронов, на которые поступает входной вектор.
BAM, как и сеть Хопфилда, способна к обобщению, вырабатывая правильные выходные сигналы, несмотря на искаженные входы.
На рис. 1 приведена схема двунаправленной ассоциативной памяти. Входной вектор A обрабатывается матрицей весов W сети, в результате чего вырабатывается вектор выходных сигналов сети B. Вектор B затем обрабатывается транспонированной матрицей WT весов сети, котороая вырабатывает сигналы, представляющие новый входной вектор A. Этот процесс повторяется до тех пор, пока сеть не достигнет стабильного состояния, в котором ни вектор A, ни вектор B не изменяются.
Рис. 1. Двунапрвленная ассоциативная память
Нейроны в слоях 1 и 2 функционируют, как и в других парадигмах, вычисляя сумму взвешенных входов и вычисляя по ней значение функции активации F:
, (1)
или в векторной форме:
, (2)
где B - вектор выходных сигналов нейронов слоя 2, A - вектор выходных сигналов нейронов слоя 1, W - матрица весов связей между слоями 1 и 2, F - функция активации.
Аналогично
, (2)
где WT является транспозицией матрицы W.
В качестве функции активации используется экспоненциальная сигмоида.
Слой 0 не производит вычислений и не имеет памяти. Он является только средством распределения выходных сигналов слоя 2 к элементам матрицы WT.
Формула для вычисления значений синаптических весов:
(4)
где Ai и Bi - входные и выходные сигналы обучающей выборки.
Весовая матрица вычисляется как сумма произведений всех векторных пар обучающей выборки.
Системы с обратной связью имеют тенденцию к колебаниям. Они могут переходить от состояния к состоянию, никогда не достигая стабильности. Доказано, что BAM безусловно стабилен при любых значениях весов сети.
ассоциативная память, распознавание образов.
Емкость BAM жестко ограничена. Если n - количество нейронов в меньшем слое, то число векторов, которые могут быть запомнены в сети не превышает
(5)
Так, если n=1024, то сеть способна запомнить не более 25 образов.
BAM обладает некоторой непредсказуемостью в процессе функционирования, возможны ложные ответы.
По сравнению с автоассоциативной памятью (например, сетью Хопфилда), двунаправленная ассоциативная память дает возможность строить ассоциации между векторами A и B, которые в общем случае имеют разные размерности. За счет таких возможностей гетероассоциативная память имеет более широкий класс приложений, чем автоассоциативная память.
BAM - простая сеть, которая может быть реализована в виде отдельной СБИС или оптоэлектронным способом.
Процесс формирования синаптических весов простой и быстрый. Сеть быстро сходится в процессе функционирования.
Была предложена негомогенная двунаправленная ассоциативная память, в которой пороговые значения подбираются отдельно для каждого нейрона. (В исходной модели BAM все нейроны имеют нулевые пороговые значения.) Емкость негомогенной сети выше, чем исходной модели.
Сигналы в сети могут быть как дискретными, так и непрерывными. Для обоих случаев доказана стабильность сети.
Были предложены модели двунапрвленной ассоциативной памяти с обучением без учителя (адаптивная BAM).
Введение латеральных связей внутри слоя дает возможность реализовать конкурирующую BAM. Веса связей формируют матрицу с положительными значениями элементов главной диагонали и отрицательными значениями остальных элементов. Теорема Кохена- Гроссберга показывает, что такая сеть является стабильной.
|
При использовании информации, находящейся на данной странице,
вы обязаны ссылаться на следующую работу:
Отчет по научно-исследовательской работе "Создание аналитического обзора информационных источников по применению нейронных сетей для задач газовой технологии"; Копосов А.И., Щербаков И.Б., Кисленко Н.А., Кисленко О.П., Варивода Ю.В. и др., ВНИИГАЗ, 1995. |