3.5. Генетический алгоритм обучения нейронной сети.

Этот алгоритм является алгоритмом глобальной оптимизации. В нем используются следующие механизмы:

1. скрещивание родительских пар (cross-over), генерация потомков
2. мутация (действие случайных воздействий)
3. естественный отбор лучших (селекция)

Цель обучения – минимизация среднеквадратичной ошибки

Задается начальная популяция.

Любая особь представляется соответствующими весами из N особей .

Вычисляем индекс пригодности (Fitness Index) и оцениваем качество прогнозирования

где С – константа.

Скрещивание родительских пар. При выборе родителей используется вероятностный механизм. Обозначим - вероятность выбора i-го родителя:

Затем осуществляется скрещивание выбранных пар

Можно применять различные механизмы скрещивания. Например:

Для первого потомка берутся нечетные компоненты из вектора первого родителя, а четные компоненты из вектора второго родителя. Для второго потомка наоборот – четные компоненты из вектора первого родителя, а нечетные компоненты из вектора второго родителя. Это можно записать таким образом:

Берется родительских пар и генерируются N потомков.

Действие мутаций.

где ,

Селекция. Можно использовать различные механизмы селекции.

1. Полная замена старой популяции на новую.
2. Выбор N лучших из всех существующих особей

Недостатки метода:

Ряд параметров определяется экспериментально, например:

N – размер популяции

- показатель затухания мутаций