НЕЙРОНЫ, НЕЙРОННЫЕ СЕТИ И НЕЙРОКОМПЬЮТЕРЫ

Нейрон (рис. 1) - это составная часть нейронной сети. Он состоит из элементов трех типов. Элементы нейрона - умножители (синапсы), сумматор и нелинейный преобразователь. Синапсы осуществляют связь между нейронами, умножают входной сигнал на число, характеризующее силу связи, - вес синапса. Сумматор выполняет сложение сигналов, поступающих по синаптическим связям от других нейронов, и внешних входных сигналов. Нелинейный преобразователь реализует нелинейную функцию одного аргумента - выхода сумматора. Эта функция называется "функция активации" или "передаточная функция" нейрона. Нейрон в целом реализует скалярную функцию векторного аргумента.

Математическая модель нейрона:

(1)

(2)

где

w_i - вес синапса (weight), (i=1,2...N);

b - значение смещения (bias);

s - результат суммирования (sum);

x_i - компонента входного вектора (входной сигнал), (i=1,2,...N);

y - выходной сигнал нейрона;

N - число входов нейрона;

f - нелинейное преобразование (функция активации).

В общем случае входной сигнал, весовые коэффициенты и значения смещения могут принимать действительные значения. Выход (y) определяется видом функции активации и может быть как действительным, так и целым. Во многих практических задачах входы, веса и смещения могут принимать лишь некоторые фиксированные значения.

Синаптические связи с положительными весами называют возбуждающими, с отрицательными весами - тормозящими.

Описанный вычислительный элемент можно считать упрощенной математической моделью биологических нейронов - клеток, из которых состоит нервная система человека и животных.

Чтобы подчеркнуть различие нейронов биологических и математичес ких, вторые иногда называют нейроноподобными элементами или формальными нейронами.

На входной сигнал (s) нелинейный преобразователь отвечает выходным сигналом f(s,p), который представляет из себя выход нейрона (y). Здесь p - параметр или набор параметров, от которых зависит функционирование преобразователя. Пример передаточной функции представлен на рис. 2.

Рис. 1. Схема нейрона

Рис. 2. Сигмоидальная передаточная функция

Нейронной сетью будем называть структуру, состоящую из связанных между собой нейронов.

Нейронные сети могут иметь различные архитектуры. Можно выделить три основных типа нейронных сетей:

полносвязные сети (рис. 3-а),
многослойные сети (рис. 3-б),
слабосвязные сети (нейронные сети с локальными связями) (рис. 3-в).

В слабосвязных сетях нейроны располагаются в узлах прямоу гольной решетки. Каждый нейрон связан с четырьмя или восемью своими ближайшими соседями.

В полносвязной сети каждый нейрон связан со всеми остальными (на входы каждого нейрона подаются выходные сигналы остальных нейронов).

В многослойных сетях нейроны объединяются в слои. Слой - это совокупность нейронов c единым входным сигналом. Внешние входные сигналы подаются на входы нейронов первого слоя, а выходами сети являются выходные сигналы последнего слоя. Кроме входного и выходного слоев в многослойной нейронной сети есть один или несколько промежуточных (скрытых) слоев. Вход нейронной сети можно рассматривать как выход "нулевого слоя" вырожденных нейронов. Связи от выходов нейронов некоторого слоя m к входам нейронов следующего слоя (m+1) называются последовательными.

Если нейроны каждого слоя сети имеют единую функцию актива ции, то такую нейронную сеть будем называть однородной.

Аппаратная реализация нейронной сети может быть выполнена на нейрочипах (микросхемах, содержащих фрагменты нейронных сетей), на СБИС-пластинах или оптоэлектронным способом.

Нейрокомпьютером называют вычислительную систему, архитектура которой ориентирована на выполнение операций, заданных структурой нейронной сети.

Нейрокомпьютеры принято относить к шестому поколению вычисли тельных систем.

а)

б)

в)

Рис. 3. Архитектуры нейронных сетей: а) полносвязная сеть, б) многослойная сеть с последовательными связями, в) слабосвязные сети

Нейрокомпьютер должен включать в себя:

аппаратную реализацию нейронной сети,
систему подготовки и ввода в сеть входных сигналов,
систему вывода результатов работы сети и их интерпретации.

Универсальным называется нейрокомпьютер, который позволяет реализовывать большое число моделей нейронных сетей и может применяться для решения разнообразных задач. Нейрокомпьютер, предназначенный для решения узкого заранее заданного класса задач, будем называть специализированным.

В литературе приведены доказательства того, что для любого алгоритма существует нейронная сеть, которая его реализует. То есть нейронные сети являются универсальными вычислительными устройствами. Однако существует очень много практических задач, которые могут быть эффективно решены на серийных компьютерах. Поэтому в настоящее время основное внимание уделяется разработке специализированных нейрокомпьютеров, предназначенных для решения задач большой размерности и трудноформализуемых задач, с которыми плохо справляются компьютеры предыдущих поколений.

Нейрокомпьютеры обладают целым рядом свойств, привлека тельных с точки зрения их практического использования :

сверхвысокое быстродействие за счет использования массового параллелизма обработки информации;
толерантность к ошибкам: работоспособность сохраняется при по вреждении значительного числа нейронов;
способность к обучению; программирование вычислительной системы заменяется обучением;
способность к распознаванию образов в условиях сильных помех и искажений.

Эти свойства позволяют с высокой эффективностью решать задачи распознавания визуальных, акустических и искусственно синтезиро ванных образов, обработки сигналов, адаптивного управления, задачи оптимизации и линейной алгебры большой размерности, задачи обучения, робототехнические задачи, задачи прогнозирования и диагностики.

Нейронные сети обеспечивают решение сложных задач за времена порядка времен срабатывания цепочек электронных и/или оптических элементов. Решение слабо зависит от неисправности отдельного нейрона. Это делает их привлекательными для использования в составе бортовых вычислительных систем.

Разработки в области нейрокомпьютеров поддерживаются целым рядом международных и национальных программ. По мнению больши нства правительственных и промышленных экспертов, массовое распространение технологии нейронных сетей начнется в конце 90-х годов. В настоящее время эксплуатируется не менее 50 нейросистем в самых различных областях - от управления транспортными потоками до финансовых прогнозов.

Разработки в области нейрокомпьютинга ведутся по следующим направлениям:

разработка нейроалгоритмов;
программные реализации нейросетей: создание специализированного программного обеспечения для моделирования нейронных сетей, разработка специализированных процессорных плат для имитации нейросетей;
электронные реализации нейронных сетей: создание нейрочипов, реализации нейросетей на СБИС-пластинах;
оптоэлектронные реализации нейронных сетей.

При использовании информации, находящейся на данной странице, вы обязаны ссылаться на следующую работу:

Отчет по научно-исследовательской работе "Создание аналитического обзора информационных источников по применению нейронных сетей для задач газовой технологии"; Копосов А.И., Щербаков И.Б., Кисленко Н.А., Кисленко О.П., Варивода Ю.В. и др., ВНИИГАЗ, 1995.