Вопрос по обучению сверточной сети

Aleksandr17 сентября 2009Data Mining10 комментариев

Здравствуйте, Victor G. Tsaregorodtsev. Вы уже много писали про обучение данного вида сети. Ваши ответы мне очень помогли, спасибо. Сейчас хочу обучить такую сеть методом Stochastic Diagonal Levenberg-Marquardt, взятого у Лекуна. Не могли бы Вы уточнить, как стартовать обратное распространение ошибки (для выходного слоя сети) для поиска значения диагонального гессиана. Как я понял, там надо (значение выхода нейрона предыдущего слоя в квадрате) умножить на (квадрат производной функции активации) и умножить на (третий множитель). Третий множитель на старте обучения равен единице? Я просто не совсем понял обозначения в формулах у Лекуна.