Нейрокомпьютерные системы


              

Сеть Хемминга


Сеть Хемминга включает в себя три слоя (рис.2).

Первый слой имеет однонаправленное распространение сигналов от входа к выходу и фиксированные значения весов.

Второй слой состоит из нейронов, связанных обратными связями по принципу "каждый с каждым", при этом в каждом нейроне слоя существует автосвязь (связь входа нейрона со своим собственным выходом). Разные нейроны в слое связаны отрицательной (тормозящей) обратной связью с весом

, при этом величина
обычно обратно пропорциональна количеству образов. С собственным входом нейрон связан положительной (возбуждающей) обратной связью с весом, равным +1. Пороговые веса нейронов приняты равными нулю. Нейроны этого слоя функционируют в режиме
, при котором в каждой фиксированной ситуации активизируется только один нейрон, а остальные пребывают в состоянии покоя.

Выходной однонаправленный слой формирует выходной вектор, соответствующий входному вектору.


увеличить изображение
Рис. 2.  Структура сети Хемминга

Сеть Хемминга считается гетероассоциативным запоминающим устройством с парой связанных между собой векторов

, где
и
- входной и выходной биполярные векторы сети.

Веса первого слоя соответствуют векторам

, т.е.

Аналогично, веса выходного слоя соответствуют векторам образов

, связанных с
:

Во втором слое (MAXNET), функционирующем в режиме WTA (Winner Takes ALL - "Победитель забирает все"), каждый нейрон должен усиливать собственный сигнал и ослаблять сигналы остальных нейронов. Для этого принимается

а также

Для обеспечения сходимости итерационного процесса во втором слое веса

где

- достаточно малая случайная величина,
.

Нейроны первого слоя рассчитывают расстояния Хемминга

между поданным на вход сети вектором

и векторами весов

нейронов этого слоя. Значения выходных сигналов нейронов первого слоя определяются по формуле

где

- число компонент вектора
.

Сигналы

становятся начальными состояниями нейронов второго слоя. Этот слой определяет "победителя", т.е. нейрон, выходной сигнал которого близок к 1.

Содержание  Назад  Вперед