Во многих нейросетевых программах предлагается на выбор несколько вариантов нормализации входных и выходных значений, и среди них - нормализация "Mean/Variance".
Что это такое? Я понимаю, что при этом из каждого значения перерабатываемых данных вычитается среднее значение и остаток делится на СКО (Variance). Однако я не понимаю - по какому множеству вычисляются эти СТАТИСТИКИ (среднее и СКО)?
А. среднее (и СКО) по всем входам для каждого примера в отдельности? Но вход может быть всего один, а так же - величины, подаваемые на входы могут быть разной размерности!!!
Б. среднее (и СКО) по всем примерам для каждого входа в отдельности? Это означает, что примеры перестают быть НЕЗАВИСИМЫМИ, то есть результат на выход нейронной сети для конкретного примера оказывается ЗАВИСИМ от того, в компании с какими ДРУГИМИ примерами он обсчитывался. И мы не сможем приписать этот конкретный выход этому конкретному входному вектору и только ему!!!