Нейрокомпьютерные системы



              

Стохастическая модель нейрона


В стохастической модели выходное состояние нейрона зависит не только от взвешенной суммы входных сигналов, но и от некоторой случайной переменной, значения которой выбираются при каждой реализации из интервала (0,1).

В стохастической модели нейрона выходной сигнал

y
принимает значения
\pm 1
с вероятностью

 \begin{align*} P(y = 1)= 1/(1 + \exp(-2\beta u)),\\ P(y = -1)= 1/(1 + \exp(2\beta u)), \end{align*}

где

u
обозначает взвешенную сумму входных сигналов нейрона, а
\beta

- положительная константа, которая чаще всего равна 1. Процесс обучения нейрона в стохастической модели состоит из следующих этапов:

1) расчет взвешенной суммы

 \begin{align*} u = \sum_{i=0}^N w_{i}x_{i} \end{align*}

для каждого нейрона сети.

2) расчет вероятности

P
того, что
y
принимает значение
\pm 1
.

3) генерация значения случайной переменной

R \in (0,1)
и формирование выходного сигнала
y
, если
R < P(y)
, или
-y
в противном случае.

При обучении с учителем по правилу Видроу-Хоффа адаптация весов проводится по формуле

 \begin{align*} \Delta w_i = \alpha x_i(d-y). \end{align*}




Содержание  Назад  Вперед