Сеть Хемминга.
Другие названия:
Использование вычисления расстояния Хемминга в задаче передачи двоичных сигналов фиксированной длины исследовалось в теории информации. Нейросетевые модели для параллельного вычисления расстояний Хемминга представлены в [1,3]. В [2] рассматривается ассоциативная память, основанная на вычислении расстояния Хемминга.
Расстояние Хемминга между двумя бинарными векторами одинаковой длины - это число несовпадающих бит в этих векторах. Нейронная сеть, которая реализует параллельное вычисление расстояний Хемминга от входного вектора до нескольких векторов- образцов, носит название сети Хемминга.
Рис. 1. Сеть Хемминга
ТИП ВХОДНЫХ СИГНАЛОВ: бинарные векторы.
ТИП ВЫХОДНЫХ СИГНАЛОВ: целые числа.
РАЗМЕРНОСТИ ВХОДА И ВЫХОДА ограничены при программной реализации только возможностями вычислительной системы, на которой моделируется нейронная сеть, при аппаратной реализации - технологическими возможностями. Размерности входных и выходных сигналов могут не совпадать.
ТИП ПЕРЕДАТОЧНОЙ ФУНКЦИИ: линейная с насыщением.
ЧИСЛО СИНАПСОВ В СЕТИ: (N*M).
Рис. 2. Передаточная функция сети Хемминга
Обозначения:
wij - i-й синаптический вес j-го нейрона,
xi - i-й элемент входного сигнала сети,
yj - выход j-го нейрона,
bj - смещение j-го нейрона,
N - количество элементов (размерность) входного сигнала,
M - количество нейронов в сети,
xij - i-ый элемент j-го вектора-образца.
Формирование синаптических весов и смещений сети:
(1)
Функционирование сети:
(2)
ПРИМЕЧАНИЕ: Рассмотренная нейронная сеть выполняет подсчет совпадающих бит входного вектора и векторов-образцов. Синаптические веса и смещения сети, которая вычисляет расстояние Хемминга в соответствии с данным выше определением, формируются следующим образом:
(3)
В литературе наиболее часто рассматривается модель, синаптические веса и смещения в которой вычисляются по формулам:
(4)
распознавание образов, классификация, ассоциативная память, надежная передача сигналов в условиях помех.
Сеть способна правильно распознавать (классифицировать) только слабо зашумленные входные сигналы. Возможность использования только бинарных входных сигналов существенно ограничивает область применения.
Сеть работает предельно просто и быстро. Выходной сигнал (решение задачи) формируется в результате прохода через всего лишь один слой нейронов. Для сравнения: в многослойных сетях сигнал проходит через несколько слоев. В сетях циклического функционирования сигнал многократно проходит через нейроны сети, причем число итераций, необходимое для получения решения, бывает заранее не известно.
В модели использован один из самых простых алгоритмов формирования синаптических весов и смещений сети.
В отличие от сети Хопфилда, емкость сети Хемминга не зависит от размерности входного сигнала, она в точности равна количеству нейронов (M).
Сеть Хопфилда с входным сигналом размерностью 100 может запомнить 10 образцов, при этом у нее будет 10000 синапсов. У сети Хемминга с такой же емкостью будет всего лишь 1000 синапсов.
Сеть Хемминга может быть дополнена сетью MAXNET, которая определяет, какой из нейронов сети Хемминга имеет выход с максимальным значением.
|
При использовании информации, находящейся на данной странице,
вы обязаны ссылаться на следующую работу:
Отчет по научно-исследовательской работе "Создание аналитического обзора информационных источников по применению нейронных сетей для задач газовой технологии"; Копосов А.И., Щербаков И.Б., Кисленко Н.А., Кисленко О.П., Варивода Ю.В. и др., ВНИИГАЗ, 1995. |