Странности с BP

Сергей10 сентября 2003Data Mining2 комментария

Продолжаю борьбу с Back Propagation.
Реализую самый простой вариант - непактное обучение.
В тренеровочной выборке 10 примеров.

Происходит следующее:
начинается эпоха, я в случайном порядке подсовываю на вход примеры из обучающего набора, после каждого примера корректирую Wij. Так вот обнаружилось что на КАЖДОЙ эпохе примерно после "подсовывания" 4-х примеров ошибка (среднеквадратичная по всем векторам из трэйн набора) сходится к определенному числу (константному на всех эпохах!) и после прогонки оставшихся ~6 примеров с ней ничего не происходит.

На следующей эпохе тоже самое. После 10000 эпох я рандомизирую Wij и происходит абсолютно тоже самое.

Знающие люди PLZ откликнитесь! "Классиков" я уже прочитал (то что в форуме посоветовали), совсем глупые вопросы задавать перестал.

С уважением,
Сергей