Презентация на тему Уравнение множественной регрессии. Теорема Гаусса-Маркова

Уравнение множественной регрессии
(7.1)
Наилучшая линейная процедура получения оценок параметров уравнения (7.1) и условия, при которых эта процедура дает несмещенные и эффективные оценки, сформулирована в теореме Гаусса-Маркова

Карл Фридрих Гаусс
Время жизни
30.04.1777 - 23.02.1855
Научная сфера – математика, физика, астрономия
Андрей Андреевич Марков
Время жизни
14.06.1856 - 20.07.1922
Научная сфера - математика

Теорема Гаусса - Маркова
Постановка задачи:
Имеем случайную выборку наблюдений за поведением экономического объекта объемом n
Выборка наблюдений за переменными модели (7.1)
Первый индекс – номер регрессора
Второй индекс – номер наблюдения
(7.2) - Система уравнений наблюдений, связывающая наблюдения в выборке
(7.2)

Теорема Гаусса - Маркова
Сформируем вектора и матрицу коэффициентов на основе системы (7.2)
Y – вектор выборочных значений эндогенной переменной
U – вектор выборочных значений случайного возмущения
A - вектор неизвестных параметров модели
х – вектор регрессоров
X – матрица коэффициентов при неизвестных параметрах

Теорема Гаусса - Маркова
По данным выборки найти: Ã, Cov(ÃÃ), σu, σ(ỹ(z))
Теорема (Гаусса – Маркова)
Если матрица Х неколлинеарна и вектор случайных возмущений удовлетворяет следующим требованиям:
Математическое ожидание всех случайных возмущений равно нулю
Дисперсия случайных возмущений постоянна во всех наблюдениях
(условие ГОМОСКЕДАСТИЧНОСТИ)
Случайные возмущения в разных наблюдениях не зависимы
Случайные возмущения и регрессоры не зависимы

Теорема Гаусса - Маркова
Тогда наилучшей линейной процедурой оценки параметров модели (7.1) является:
(7.3) которая удовлетворяет методу наименьших квадратов
При этом:

Теорема Гаусса - Маркова
Доказательство
Воспользуемся методом наименьших квадратов
где
(7.4)
(7.5)
Подставив (7.5) в (7.4) получим
(7.6)

Теорема Гаусса - Маркова
Для получения необходимого условия экстремума дифференцируем (7.6) по вектору параметров
Откуда система нормальных уравнений для определения искомых параметров получает вид
(7.7)
Решение системы (7.7) в матричном виде есть
Выражение (7.3) доказано

Теорема Гаусса - Маркова
Докажем несмещенность оценок (7.3)
Несмещенность оценки (7.3) доказана
Вычислим ковариационную матрицу оценок (7.3)
В результате получено выражение (7.4)

Теорема Гаусса - Маркова
Пример 1. Пусть имеем выборку из n наблюдений за случайной величиной Y
Найти наилучшие оценки среднего значения и дисперсии этой переменной
В терминах теоремы Гаусса –Маркова задача формулируется так: необходимо построить модель типа Y = a0 +u, при этом имеем:

Теорема Гаусса - Маркова
Решение
1. Вычисляем (XTX)-1
2. Вычисляем (XTY)
3. Вычисляем оценку параметра а0
4. Находим дисперсию среднего

Теорема Гаусса - Маркова
Пример 2. Уравнение парной регрессии
Построить модель типа Y=a0+a1x +u, по данным вы-борки наблюдений за переменными Y и x объемом n
В схеме Гаусса-Маркова имеем:
1. Вычисляем матрицы (XTX) и (XTX)-1

Теорема Гаусса - Маркова
2. Вычисляем XTY
3. Вычисляем оценку вектора параметров а

Теорема Гаусса - Маркова
Вычислим дисперсии (ковариационную матрицу) параметров модели
Следовательно:

Теорема Гаусса - Маркова
Расчет дисперсии прогнозирования
Прогноз осуществляется в точке Z={1,z}Т

Оценка уравнений регрессии с помощью EXCEL
Процедура «ЛИНЕЙН» в приложении EXCEL
Алгоритм использования процедуры:
Подготовка таблицы исходных данных
2. Вызов процедуры «ЛИНЕЙН»
3. Ввод исходных данных в процедуру
4. Анализ результата
Рассмотрим алгоритм на примере