сеть Хопфилда.
Другие названия:
Сеть разработана Хопфилдом в 1984 году. С тех пор были предложены многочисленные модификации. Сеть используется как ассоциативная память, классификатор и для решения некоторых задач оптимизации.
Одна из первых предложенных моделей сети Хопфилда используется как ассоциативная память. Исходными данными для расчета значений синаптических весов сети являются векторы - образцы классов. Сеть функционирует циклически. Выход каждого из нейронов подается на входы всех остальных нейронов. Нейроны сети имеют жесткие пороговые функции.
Рис. 1. Сеть Хопфилда
Рис. 2. Передаточная функция сети Хопфилда
КРИТЕРИЙ ОСТАНОВА: итерации сети завершаются после того, как выходные сигналы нейронов перестают меняться.
ТИП ВХОДНЫХ И ВЫХОДНЫХ СИГНАЛОВ: биполярные (+1 и -1).
РАЗМЕРНОСТИ ВХОДА И ВЫХОДА ограничены при программной реализации только возможностями вычислительной системы, на которой моделируется нейронная сеть, при аппаратной реализации - технологическими возможностями. Размерности входных и выходных сигналов совпадают.
ЕМКОСТЬ СЕТИ: сеть, содержащая N нейронов может запомнить не более M=0.15*N образов. При этом запоминаемые образы не должны быть сильно коррелированы. Мера коррелированности:
(1)
ТИП ПЕРЕДАТОЧНОЙ ФУНКЦИИ: жесткая пороговая.
ЧИСЛО СИНАПСОВ В СЕТИ: M*(M-1).
Обозначения:
wij - i-й синаптический вес j-го нейрона,
xi - i-й элемент входного сигнала сети,
xij - i-й элемент j-го вектора-образца,
xi' - i-й элемент выходного сигнала сети,
yj - выход j-го нейрона,
N - количество элементов (размерность) входного сигнала,
количество нейронов в сети,
M - количество векторов-образцов.
Формирование синаптических весов сети:
(2)
Функционирование сети:
(3)
Функционирование заканчивается, если на некотором шаге T для всех j:
(4)
Выходной сигнал сети:
(5)
В процессе функционирования уменьшается энергетическая функция:
(6)
ассоциативная память, адресуемая по содержанию, задачи распознавания образов, задачи оптимизации.
Сеть обладает небольшой емкостью.
Наряду с запомненными образами в сети храняться и их негативы.
Размерность и тип входных сигналов в точностью совпадают с размерностью и типом выходных сигналов. Это существенно ограничивает применение сети в задаче распознавания образов.
При использовании коррелированных векторов-образцов возможно зацикливание сети в процессе функционирования.
Квадратичный рост числа синапсов при увеличении размерности входного сигнала также можно считать недостатком сети.
Сеть имеет огромное историческое значение. С этой модели началось возрождение интереса к нейронным сетям в середине 80-х годов.
Существует модель сети Хопфилда с бинарными входными сигналами. Одна из модификаций сети предназначена для решения задач оптимизации, в частности задачи распределения работ между исполнителями.
Для увеличения емкости сети и повышения качества распознавания образов используют мультипликативные нейроны. Сети, состоящие из таких нейронов называются сетями высших порядков.
Были предложены многослойные сети Хопфилда, которые обладают определенными преимуществами по сравнению с первоначальной моделью.
|
При использовании информации, находящейся на данной странице,
вы обязаны ссылаться на следующую работу:
Отчет по научно-исследовательской работе "Создание аналитического обзора информационных источников по применению нейронных сетей для задач газовой технологии"; Копосов А.И., Щербаков И.Б., Кисленко Н.А., Кисленко О.П., Варивода Ю.В. и др., ВНИИГАЗ, 1995. |