3.2. Градиентный метод обучения нейронной сети Back Propagation.
Таким образом полный алгоритм обучения НС с помощью процедуры обратного распространения включает следующие шаги.
Пусть на входы НС подан один из возможных образов.

1. Положим .
2. Рассчитываем последовательно значения выходов для n-го слоя (n=1,2,…,N). (21)
   (22)
3. Рассчитываем величины для нейронов выходного слоя по формуле (18). Определяем .
4. Используя рекурентную формулу (17), рассчитываем через и для всех предшествующих слоев n=N-1,N-2,…,1 по формуле (19).
5. Корректируем веса в НС согласно процедуре (23)
   На этом первая итерация (t) заканчивается.
6. Вычисляем .

Если , то СТОП.
Иначе идем на шаг 1 (t+1) итерации.

Данный алгоритм расчета величин иллюстрируется на рис.1, 2, 3, 4.

рис.1

рис.2

рис.3

рис.4