Здравствуйте.
Не подскажете-где я могу популярно узнать о методе г.к.?
Этот метод применяют при отборе наиболее значимых признаков для обучения НС. Расскажите поподробнее как это делается?
Спасибо.
Есть, например, книга: "Многомерный статистический анализ в экономике" Л.А.Сошникова, В.Н.Тамашевич, Г.Уебе, М.Шефер под редакцией В.Н.Тамашевича, Юнити, Москва 1999 г.
Как это делается:
1) Есть таблица, содержащая значения N исходных факторов.
2) Вычисляется матрица ковариаций этих факторов, то есть получается симметричная матрица N x N.
3) Вычисляются собственные значения этой матрицы, их будет N и их сумма равна N.
4) Отбираются максимальные собственные значения, пока их сумма не превысит, например 0.95 от N. Это означает, что выбранные главные компоненты объяснят 95 процентов дисперсии результирующего значения.
5) Вычисляются собственные вектора, соответствующие выбранным собственным значениям. То есть получаем новый базис.
6) В этом новом базисе раскладываются исходные факторы.
У меня вопрос по 4-му пункту. Что вы подразумеваете под дисперсией результирующего значения?
И еще, когда я буду моделировать нормальные вектора с заданной матрицей ковариаций, то в новом базисе компоненты вектора будут некоррелированы?
При использовании метода главных компонент используется предположение, что исходные факторы полностью объясняют поведение результирующего фактора, или, используя другой жаргон, объясняют 100 % дисперсии результирующего фактора. Вот в этом смысле в данном случае и используется термин дисперсия.
В новом базисе главные компоненты будут независимы, это свойство собственных векторов симметричной матрицы.
есть моя статья (и препринт) про рециркуляционную нейронную сеть для извлечения главных компонент
как оказалось, РНС лучше, чем решение матричных уравнений. (я не прав? обоснуйте;)
куча ссылок по теме
В принципе Вы правы: существует соответствие между матричным решением и соотв. нейросетью.
Однако, что лучше - решает сам для себя потребитель. Нейропрограмма хороша для практики, матрицы - для теории. Компромисc - матрицы в Maple. Подробнее см. у Г.Хакена, в [2] (Спис. указ. лит. [1,2] - в моем ответе здесь на сайте)