Нейрокомпьютерные системы


              

Описанный процесс следует повторить для


4. Описанный процесс следует повторить для всех обучающих примеров задачника, продолжая его вплоть до выполнения условия остановки алгоритма. Действие алгоритма завершается в момент, когда норма градиента упадет ниже априори заданного значения, характеризующего точность процесса обучения.

Руководствуясь рис. 2, можно легко определить все компоненты градиента целевой функции, т.е. все частные производные функции
по весам сети. Для этого, двигаясь от входов сети (бывших выходов), нужно перемножить все встречающиеся на пути величины (кроме весов
, для которых рассчитывается частная производная
). Кроме того, там, где дуги сходятся к одной вершине, нужно выполнить сложение произведений, полученных на этих дугах.

Так, например, чтобы посчитать производную
, нужно перемножить величины
, а для вычисления производной
нужно посчитать произведения



и



и затем сложить эти произведения и результат умножить на


и
.

Таким образом, получим








Содержание  Назад  Вперед