Эконометрика. Лекция № 3. Множественная регрессия и корреляция

Лекция № 3
Множественная регрессия и корреляция

Уравнение множественной регрессии
Основная цель множественной регрессии– построить модель с большим числом факторов, определив при этом влияние каждого из них в отдельности, а также совокупное их воздействие на моделируемый показатель.
Спецификация модели включает 2 этапа:
1) отбор факторов;
2) выбор вида уравнения регрессии.

Отбор факторов при построении уравнения множественной регрессии
Факторы, включаемые во множественную регрессию, должны отвечать следующим требованиям:
Они должны быть количественно измеримы. Если необходимо включить в модель качественный фактор, не имеющий количественного измерения, то ему нужно придать количественную определенность;
Факторы не должны быть интеркоррелированы и тем более находиться в точной функциональной связи.
Насыщение модели лишними факторами не только не снижает величину остаточной дисперсии и не увеличивает показатель детерминации, но и приводит к статистической незначимости параметров регрессии по критерию Стьюдента.

Отбор факторов обычно осуществляется в две стадии:
подбираются факторы исходя из сущности проблемы;
на основе матрицы показателей корреляции определяют статистики для параметров регрессии.

Включение в модель мультиколлинеарных факторов нежелательно
в силу следующих последствий:
Затрудняется интерпретация параметров множественной регрессии как характеристик действия факторов в «чистом» виде, ибо факторы коррелированы; параметры линейной регрессии теряют экономический смысл.
Оценки параметров ненадежны, обнаруживают большие стандартные ошибки и меняются с изменением объема наблюдений (не только по величине, но и по знаку), что делает модель непригодной для анализа и прогнозирования.
Для оценки мультиколлинеарности факторов может использоваться определитель матрицы парных коэффициентов корреляции между факторами.

Существует ряд подходов преодоления сильной межфакторной корреляции:
самый простой путь устранения мультиколлинеарности состоит в исключении из модели одного или нескольких факторов;
связан с преобразованием факторов, при котором уменьшается корреляция между ними.

Наиболее широкое применение получили следующие методы построения уравнения множественной регрессии:
Метод исключения– отсев факторов из полного его набора.
2. Метод включения– дополнительное введение фактора.
3. Шаговый регрессионный анализ – исключение ранее введенного фактора.
При отборе факторов также рекомендуется пользоваться следующим правилом: число включаемых факторов обычно в 6–7 раз меньше объема совокупности, по которой строится регрессия. Если это соотношение нарушено, то число степеней свободы остаточной дисперсии очень мало. Это приводит к тому, что параметры уравнения регрессии оказываются статистически незначимыми, а F –критерий меньше табличного значения.

Метод наименьших квадратов(МНК).
Свойства оценок на основе МНК

Проверка существенности факторов
и показатели качества регрессии
Практическая значимость уравнения множественной регрессии оценивается с помощью показателя множественной корреляции и его квадрата– показателя детерминации.
Показатель множественной корреляции характеризует тесноту связи рассматриваемого набора факторов с исследуемым признаком или, иначе, оценивает тесноту совместного влияния факторов на результат.
Независимо от формы связи показатель множественной корреляции может быть найден как индекс множественной корреляции:

Сравнивая индексы множественной и парной корреляции, можно сделать вывод о целесообразности включения в уравнение регрессии того или иного фактора.