Проверка гипотез, относящихся к коэффициентам регрессии

ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Тестирование гипотез составляет основную часть основы эконометрики, и важно иметь четкое понимание теории.
2
Moдель
X неизвестное μ, σ2
Оценочная функция
Review chapter
Модель регрессии

ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Теория, обсуждаемая в разделах R.9-R.11 главы обзора, является нетривиальной и требует тщательного изучения. Эта последовательность является чисто механической и никоим образом не является заменителем.
3
Модель
X неизвестное μ, σ2
Оценочная функция
Review chapter
Модель регрессии

ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Если вы не понимаете, например, взаимные уступки между размером (уровнем значимости) и мощностью теста, вы должны изучить материал в этих разделах, прежде чем смотреть на эту последовательность.
4
Модель
X неизвестное μ, σ2
Оценочная функция
Review chapter
Модель регрессии

В нашем стандартном примере в главе «Обзор» мы имели случайную переменную Х с неизвестным средним населением variance μ и дисперсией σ2. Учитывая выборку данных, мы использовали среднее значение выборки как оценку μ.
5
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Модель
X неизвестное μ, σ2
Оценочная функция
Review chapter
Модель регрессии

В контексте модели регрессии мы имеем параметры β1 и β2 и для них были получены оценки b1 и b2 . В дальнейшем мы сосредоточимся на β2 и его оценке b2.
6
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Модель
X неизвестное μ, σ2
Оценочная функция
Review chapter
Модель регрессии

В случае случайной величины X, наша стандартная нулевая гипотеза заключалась в том, что μ было равно некоторому определенному значению μ0. В случае модели регрессии наша нулевая гипотеза состоит в том, что β2 равен некоторому конкретному значению β20.
7
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Модель
X неизвестное μ, σ2
Оценочная функция
Review chapter
Модель регрессии
Нулевая гипотеза
Альтернативная гипотеза

Для обеих популяций среднее значение μ случайной величины X и коэффициент регрессии β2, тестовая статистика является t статистикой.
8
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Статистика испытаний
Модель
X неизвестное μ, σ2
Оценочная функция
Нулевая гипотеза
Альтернативная гипотеза
Review chapter
Модель регрессии

В обоих случаях он определяется как разница между расчетным коэффициентом и его гипотетическим значением, деленная на стандартную ошибку коэффициента.
9
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Статистика испытаний
Модель
X неизвестное μ, σ2
Оценочная функция
Нулевая гипотеза
Альтернативная гипотеза
Review chapter
Модель регрессии

Мы отклоняем нулевую гипотезу, если абсолютное значение больше критического значения t, учитывая выбранный уровень значимости.
10
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Статистика испытаний
Модель
X неизвестное μ, σ2
Оценочная функция
Нулевая гипотеза
Альтернативная гипотеза
Reject H0 if
Review chapter
Модель регрессии

Есть одно важное различие. При определении критического значения t необходимо учитывать число степеней свободы. В случае случайной величины X это
n - 1, где n - количество наблюдений в образце.
11
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Статистика испытаний
Модель
X неизвестное μ, σ2
Оценочная функция
Нулевая гипотеза
Альтернативная гипотеза
Reject H0 if
Степени свободы
n – 1
n – k = n – 2
Review chapter
Модель регрессии

Статистика испытаний
В случае модели регрессии число степеней свободы n - k, где n - количество наблюдений в выборке, а k - количество параметров (β коэффициентов). Для простой модели регрессии выше n - 2.
12
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Модель
X неизвестное μ, σ2
Оценочная функция
Нулевая гипотеза
Альтернативная гипотеза
Reject H0 if
Степени свободы
n – 1
n – k = n – 2
Review chapter
Модель регрессии

13
В качестве иллюстрации мы рассмотрим модель, связанную с инфляцией цен для инфляции заработной платы. p - процентный годовой темп роста цен, w - процентный годовой темп роста заработной платы.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Пример: p = β1 + β2w + u
Нулевая гипотеза: H0: β2 = 1.0
Альтернативная гипотеза: H1: β2 ≠ 1.0

14
Мы проверим гипотезу о том, что темп инфляции цен равен ставке инфляции заработной платы. Поэтому нулевая гипотеза H0: β2 = 1.0. (Мы также должны проверить β1 = 0.)
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Пример: p = β1 + β2w + u
Нулевая гипотеза: H0: β2 = 1.0
Альтернативная гипотеза: H1: β2 ≠ 1.0

15
Предположим, что результат регрессии показан (стандартные ошибки в скобках). Наша фактическая оценка коэффициента наклона составляет всего 0,82. Мы проверим, следует ли отклонять нулевую гипотезу.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Пример: p = β1 + β2w + u
Нулевая гипотеза: H0: β2 = 1.0
Альтернативная гипотеза: H1: β2 ≠ 1.0

16
Мы вычисляем t статистику путем вычитания гипотетического истинного значения из оценки выборки и деления на стандартную ошибку. Он достигает -1,80.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Пример: p = β1 + β2w + u
Нулевая гипотеза: H0: β2 = 1.0
Альтернативная гипотеза: H1: β2 ≠ 1.0

17
В выборке имеется 20 наблюдений. Мы оценили 2 параметра, поэтому существует 18 степеней свободы.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Example: p = β1 + β2w + u
Null hypothesis: H0: β2 = 1.0
Alternative hypothesis: H1: β2 ≠ 1.0
Пример: p = β1 + β2w + u
Нулевая гипотеза: H0: β2 = 1.0
Альтернативная гипотеза: H1: β2 ≠ 1.0

18
Критическое значение t с 18 степенями свободы составляет 2,101 на уровне 5%. Абсолютное значение t-статистики меньше этого, поэтому мы не отвергаем нулевую гипотезу.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Пример: p = β1 + β2w + u
Нулевая гипотеза: H0: β2 = 1.0
Альтернативная гипотеза: H1: β2 ≠ 1.0

19
На практике обычно не имеют представление о фактическом значении коэффициентов. Очень часто цель анализа состоит в том, чтобы продемонстрировать, что на Y влияет X, без какого-либо конкретного предварительного представления о фактических коэффициентах отношения.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Moдель Y = β1 + β2X + u

20
В этом случае обычно определяется β2 = 0 как нулевая гипотеза. На словах нулевая гипотеза состоит в том, что Х не влияет на Y. Затем мы попытаемся показать, что нулевая гипотеза ложна.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Модель Y = β1 + β2X + u
Нулевая гипотеза: H0: β2 = 0
Альтернативная гипотеза: H1: β2 ≠ 0

21
For the null hypothesis β2 = 0, the t statistic reduces to the estimate of the coefficient divided by its standard error.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Moдель Y = β1 + β2X + u
Нулевая гипотеза: H0: β2 = 0
Альтернативная гипотеза: H1: β2 ≠ 0

22
Это отношение обычно называют t статистикой для коэффициента и автоматически распечатывается как часть результатов регрессии. Чтобы выполнить тест для заданного уровня значимости, мы напрямую сравниваем статистику t с критическим значением t для этого уровня значимости.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
Moдель Y = β1 + β2X + u
Нулевая гипотеза: H0: β2 = 0
Альтернативная гипотеза: H1: β2 ≠ 0

. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------
23
Вот результат функции заработка, установленный в предыдущем слайд-шоу, с выделенной статистикой t.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ

24
Вы можете видеть, что t статистика для коэффициента S огромна. Мы отвергли бы нулевую гипотезу о том, что школьное образование не влияет на заработок на уровне значимости 1% (критическое значение около 2,59).
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------

25
В этом случае мы могли бы пойти дальше и отвергнуть нулевую гипотезу о том, что обучение не влияет на доход на уровне значимости 0,1%.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------

26
Преимущество отчетности об отказе на уровне 0,1%, а не на уровне 1%, заключается в том, что риск ошибочного отклонения нулевой гипотезы без эффекта теперь составляет всего 0,1% вместо 1%. Результат, следовательно, еще более убедителен.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------

27
T cтатистика для перехвата также огромна. Однако, поскольку перехват не имеет никакого значения, для него нет смысла выполнять t-тест.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------

28
Следующий столбец на выходе дает так называемые значения р для каждого коэффициента. Это вероятность получения соответствующей t статистики как случайности, если нулевая гипотезаH0: β = 0 истина.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------

29
Если вы отклоните нулевую гипотезу H0: β = 0, это вероятность того, что вы совершили ошибку и сделаете ошибку типа I. Поэтому он дает уровень значимости, при котором нулевая гипотеза будет отвергнута.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------

30
Если p = 0,05, нулевая гипотеза может быть просто отвергнута на уровне 5%. Если это было 0,01, его можно было бы просто отклонить на уровне 1%. Если бы он составлял 0,001, его можно было бы просто отклонить на уровне 0,1%. Это предполагает, что вы используете двухсторонние тесты.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------

31
В данном случае p = от 0 до трех знаков после запятой для коэффициента S. Это означает, что мы можем отклонить нулевую гипотезу H0: b2 = 0 на уровне 0,1%, не обращаясь к таблице критических значений t. (Тестирование перехвата не имеет смысла в этой регрессии.)
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
TESTING A HYPOTHESIS RELATING TO A REGRESSION COEFFICIENT
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------

32
Это более информативный подход к представлению результатов испытаний и широко используемых в медицинской литературе.
ИСПЫТАНИЕ ГИПОТЕЗЫ, СВЯЗАННОЙ С КОЭФФИЦИЕНТОМ РЕГРЕССИИ
. reg EARNINGS S
Source | SS df MS Number of obs = 540
-------------+------------------------------ F( 1, 538) = 112.15
Model | 19321.5589 1 19321.5589 Prob > F = 0.0000
Residual | 92688.6722 538 172.283777 R-squared = 0.1725
-------------+------------------------------ Adj R-squared = 0.1710
Total | 112010.231 539 207.811189 Root MSE = 13.126
------------------------------------------------------------------------------
EARNINGS | Coef. Std. Err. t P>|t| [95% Conf. Interval]
-------------+----------------------------------------------------------------
S | 2.455321 .2318512 10.59 0.000 1.999876 2.910765
_cons | -13.93347 3.219851 -4.33 0.000 -20.25849 -7.608444
------------------------------------------------------------------------------