Множественная линейная регрессия (Multiple Linear Regression)

Синонимы: Многофакторная линейная регрессия

Разделы: Алгоритмы

Loginom: Линейная регрессия (обработчик)

Множественной называют линейную регрессию, в модели которой число независимых переменных две или более.

Уравнение множественной линейной регрессии имеет вид:

$Y = b_{0} + b_{1} x_{1} + b_{2} x_{2} + \dots + b_{n} x_{n}$ ,

Как и в простой линейной регрессии, параметры модели $b_{n}$ вычисляются при помощи метода наименьших квадратов.

Отличие между простой и множественной линейной регрессией заключается в том, что вместо линии регрессии в ней используется гиперплоскость.

Преимущество множественной линейной регрессии по сравнению с простой заключается в том, что использование в модели нескольких входных переменных позволяет увеличить долю объяснённой дисперсии выходной переменной, и таким образом улучшить соответствие модели данным. Т.е. при добавлении в модель каждой новой переменной коэффициент детерминации растёт.

Однако в множественной линейной регрессии возникают и проблемы, нехарактерные для простой модели:

возможно появление мультиколлениарности;
необходимо выбирать лучшую модель, в которой минимальный набор независимых переменных сможет объяснить наибольшую долю дисперсии зависимой. Для этих целей используется информационный критерий Акаике и его модификации, информационные критерии Байеса и Ханнана-Куина.