Построение регрессионных моделей и решение задачи предсказания

Два класса решаемых задач

Постановка задачи. Исходные данные

Цель исследования
Построить модель для известных наборов X и Y
Оценить возможности модели для предсказания неизвестных значений Y по новым значениям X.

Множественная регрессия.
Проверка основных статистических гипотез об уравнении регрессии, его коэффициентах и прогнозируемых значениях откликов.

Коллинеарность
Коллинеарность означает, что между переменными, составляющими матрицу X, существует взаимная корреляция, т.е. они в некоторой степени линейно зависимы между собой, например X1=f (X2, X3, …, Xn)

Двухэтапная процедура РГК
Регрессия на главные компоненты (РГК)

Моделирование – хемометрический подход

Обучающий набор данных
Набор должен быть достаточно большим
Должны охватывать всю будущую совокупность
Измерения X, по возможности, должны быть несложными

Построение модели

Оценка антиоксидантов методом ДСК
Объект
Антиоксиданты в ПП
Цель
Оценка эффективности АО
Эксперимент
Длительное термостарение
Обработка
Регрессия на главные компоненты
Y- измерения
Дифференц. калориметрия
X- измерения
Температура начала окисления

ДСК эксперимент
Оценка температуры начала окисления (ТНО)
при разных скоростях нагрева v

ДСК данные и референтные данные

Предварительная обработка данных.

Метод главных компонент в примере с АО
График счетов (ГК1-ГК2)
ГК1-ГК2: объясняют 96% структуры X и 97 % структуры Y
Стандартная ошибка калибровки

Тестовый набор данных
Набор должен быть достаточно большим
Должны охватывать всю будущую совокупность
Не должны быть «слишком» похож на калибровочный набор

Моделирование – стадия проверки

Способы проверки
Проверка на тестовом наборе
Перекрестная проверка
Проверка корректировкой размахом

Перекрестная проверка
Моделируют тестовый набор используя калибровочный
(ycal , Xcal)
Самый медленный способ проверки и не всегда надежный

Полная перекрестная проверка
Модель

Проверка корректировкой размахом
Ошибка предсказания всегда оценивается слишком оптимистично
Требует построения лишь одной модели

Сколько выбрать главных компонент

Ошибка моделирования и ошибка предсказания

Количество ГК для АО примера
2 главные компоненты

Прогноз эффективности АО
RMSEP = 0.253
Yпред=Y±2*RMSEP

Слабость РГК
РГК – мощное средство борьбы с мультиколлинеарностью в матрице X
РГК –двухэтапный метод
Декомпозиция X по МГК
МЛР
=
+
Эта декомпозиция не учитывает связи между X и Y

Регрессия на латентные структуры (ПЛС - регрессия)

Интерпретация ПЛС-модели
T - матрица счетов
Q - матрица нагрузок
Для X
Для Y
W –матрица взвешенных (эффективных) нагрузок
U - матрица счетов
P - матрица нагрузок

Графике зависимости X-Y
U - T

График остаточной дисперсии
Для ПЛС-моделей дисперсия должна падать
Остаточная дисперсия Y – количества ГК

Заключительный график
Предсказанные значения Y - измеренные значения Y

Определение октанового числа бензина по данным ИК-спектроскопии
Исходные данные
Обучающий массив = 26 образца
Прогнозный массив = 13 образцов
Количество переменных (длин волн) = 226 (1100 – 1550 nm)