machine_learning_2_lecture_180319

Что будет сегодня про кластеризацию
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Что это и зачем
Описание нескольких алгоритмов

Что такое кластеризация
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Кластерный анализ (англ. cluster analysis):
задача разбиения заданной выборки объектов (ситуаций) на подмножества, называемые кластерами, так, чтобы каждый кластер состоял из схожих объектов, а объекты разных кластеров существенно отличались.

Картинка
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Другая картинка
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Виды кластеризации
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Centroid-based
Сonnectivity-based
Distribution-based
Constraint-based

Виды кластеризации
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Centroid-based
Сonnectivity-based
Distribution-based
Constraint-based

Другие классификации
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Чёткие/нечёткие
Плоские/иерархические

Другие классификации
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Чёткие/нечёткие
Плоские/иерархические

Другие классификации
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Чёткие/нечёткие
Плоские/иерархические

Centroid-based
Н. Поваров, И. Куралёнок
Санкт-Петербург, 2019

FOREL (сentroid-based)
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Факты о FOREL
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Один параметр!
Результат зависит от рандома
Детище советских учёных

k-means (сentroid-based)
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

k-means (сentroid-based)
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Факты о k-means
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Один параметр!
Нет гарантий сходимости
Можно использовать medians
А можно использовать medoids

Правило локтя для k-means
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Вычисляем сумму квадратов расстояний от точек до центров
Рисуем график
Выбираем k

Правило локтя для k-means
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Connectivity-based
Н. Поваров, И. Куралёнок
Санкт-Петербург, 2019

Односвязный (сonnectivity-based)
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Факты про односвязный алгоритм
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

DBSCAN (сonnectivity-based)
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

DBSCAN (сonnectivity-based)
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Факты о DBSCAN
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

«Правило локтя» для DBSCAN
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

«Правило локтя» для DBSCAN
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Интересные примеры DBSCAN
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Convex-hull & DBSCAN clustering to predict future weather, 2015
Modelling website user behaviors by combining the EM and DBSCAN algorithms, 2016
Real-Time Superpixel Segmentation by DBSCAN Clustering Algorithm, 2016

Метрики качества кластеризации
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Внешние
Внутренние

Внешние метрики
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Rand measure = Accuracy
F-мера
Jaccard
...

Внутренние метрики
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Вводят внутрикластерное расстояние
Вводят межкластерное расстояние Первое хотят минимизировать, второе максимизировать

Внутренние метрики
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок
Dunn Index
Силуэт
Davies-Bouldin index ...

Dunn index
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Silhouette
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок

Davies-Bouldin index
Санкт-Петербург, 2019
Н. Поваров, И. Куралёнок