Подпространства. Проекции. Тема 9

Ключевые вопросы лекции
Как уменьшить размерность векторного описания объектов?
Что такое подпространство (п/п)? Как описываются п/п ?
Как найти проекцию вектора на вектор, на произвольное п/п?
Как построить матрицу проецирования на п/п ?
Что такое сумма п/п, пересечение п/п, прямая сумма п/п?
Как решается задача аппроксимации МНК с использованием операции проецирования?

План уроков темы
Постановка задач аппроксимации и снижения размерности описания объектов
Подпространство (п/п). Описание п/п. Порождающие матрицы.
Проецирование вектора на произвольное п/п. Вывод нормальной системы уравнений.
Алгебраические операции на множестве п/п. Свойства операций
Ортогональное разложение по п/п. Связь п/п с СЛАУ Ax=0
Примеры проецирования

Постановка задачи аппроксимации
Цена дома, тыс.$
Размер дома, кв.футов
Задача регрессии: Предсказать величину цены дома
Пример взят из курса «Machine Learning», Stanford University

Постановка задачи аппроксимации

Постановка задачи снижения размерности

Постановка задачи аппроксимации

План уроков темы
Постановка задач аппроксимации и снижения размерности описания объектов
Подпространство (п/п). Описание п/п. Порождающие матрицы.
Проецирование вектора на произвольное п/п. Вывод нормальной системы уравнений.
Алгебраические операции на множестве п/п. Свойства операций
Ортогональное разложение по п/п. Связь п/п с СЛАУ Ax=0
Примеры проецирования

Подпространство В.П.

Подпространство В.П.

Подпространство В.П.

Подпространство В.П.

Подпространство В.П.

Подпространство, порожденное векторами

Подпространство, порожденное векторами

Подпространство, порожденное векторами

Свойства подпространств

План уроков темы
Постановка задач аппроксимации и снижения размерности описания объектов
Подпространство (п/п). Описание п/п. Порождающие матрицы.
Проецирование вектора на произвольное п/п. Вывод нормальной системы уравнений.
Алгебраические операции на множестве п/п. Свойства операций
Ортогональное разложение по п/п. Связь п/п с СЛАУ Ax=0
Примеры проецирования

Проекция вектора на одномерное п/п

Проекция вектора на одномерное п/п

Проекция вектора на двумерное п/п

Нормальная система уравнений

.
Нормальная система уравнений

Нормальная система уравнений

Нормальная система уравнений

План уроков темы
Постановка задач аппроксимации и снижения размерности описания объектов
Подпространство (п/п). Описание п/п. Порождающие матрицы.
Проецирование вектора на произвольное п/п. Вывод нормальной системы уравнений.
Алгебраические операции на множестве п/п. Свойства операций
Ортогональное разложение по п/п. Связь п/п с СЛАУ Ax=0
Примеры проецирования

Пересечение подпространств

Пересечение подпространств

Пересечение подпространств

Cумма подпространств

Cумма подпространств

Cумма подпространств

Свойства пересечения и суммы п/п

Свойства пересечения и суммы п/п

Свойства пересечения и суммы п/п

Свойства пересечения и суммы п/п

Размерность пересечения п/п

Размерность суммы п/п

Прямая сумма п/п

Прямая сумма п/п

Прямая сумма п/п

Прямая сумма п/п

План уроков темы
Постановка задач аппроксимации и снижения размерности описания объектов
Подпространство (п/п). Описание п/п. Порождающие матрицы.
Проецирование вектора на произвольное п/п. Вывод нормальной системы уравнений.
Алгебраические операции на множестве п/п. Свойства операций
Ортогональное разложение по п/п. Связь п/п с СЛАУ Ax=0
Примеры проецирования

Ортогональное дополнение

Ортогональное дополнение

Ортогональное дополнение

Ортогональное дополнение

Ортогональное дополнение

Ортогональное разложение

Ортогональное разложение

Подпространство решений Ax=0

Подпространство решений Ax=0

План уроков темы
Постановка задач аппроксимации и снижения размерности описания объектов
Подпространство (п/п). Описание п/п. Порождающие матрицы.
Проецирование вектора на произвольное п/п. Вывод нормальной системы уравнений.
Алгебраические операции на множестве п/п. Свойства операций
Ортогональное разложение по п/п. Связь п/п с СЛАУ Ax=0
Примеры проецирования

Приближенное решение СЛАУ

Приближенное решение СЛАУ
2x-3y=1
3x+2y=2
x+y=2

Пример проецирования векторов

Аппроксимация функций

Аппроксимация функций

Аппроксимация функций

Аппроксимация функций

Аппроксимация функций

Аппроксимация функций

Аппроксимация функций

Аппроксимация функций