Профилирование и мониторинг приложений

Проблемы производительности
CPU
IO
Блокировки / Ожидания

CPU
С CPU бороться и просто и сложно одновременно
Изучение сложности алгоритмов (https://habrahabr.ru/post/188010)
Вертикальное и горизонтальное масштабирование
Использование других языков
Использование правильных алгоритмов
80% потери скорости находится в 20% кода

IO
Сеть
Группировка запросов (к БД, к серверу)
Оптимистическая стратегия (chrome)
Пакетная обработка
Система хранения
Последовательное чтение
HDD (100 мб/сек, 10 мс позиционирование, 1 байт=1 мегабайт)
SSDD (1000 мб/сек, 1 мс позиционирование , 1 байт=1 мегабайт)
SAN (2000 мб/сек, 50 мс позиционирование , 1 байт=100 мегабайт)
Логическая группировка данных (gamedev)

Блокировки/ожидания
Приложение
Пул потоков
Уменьшение критических секций
Использование асинхронных операций (async/await)
БД
Партиции
Разные файлы (файлы партиций и файл лога)
Правильные уровни изоляции
READ UNCOMMITTED
| READ COMMITTED
| REPEATABLE READ
| SNAPSHOT
| SERIALIZABLE

Стратегия разработки
Оценка производительности
Мониторинг
Профилирование / оптимизация

Оценка производительности
Нагрузочное тестирование
Время отклика системы
Обычно меряют в персентилях
Потребляемые ресурсы
CPU
Память
Сеть
Порог 70% - надо добавлять мощности
Инструменты
apache jmeter
yandex tank

Мониторинг
Системы мониторинга
Performance monitor
Nagios
Заббикс
Prometheus
Системы виртуализации
ELK
Graphite

Performance monitor
TypePerf.exe –q > counters.txt

Заббикс

Grafana

ELK стек

Профилирование
Visual Studio
DotTrace
DotMemory

Visual studio profiler
Sampling
Instrumentation
Elapsed
Application
Elapsed Exclusive
Application Exclusive

DotTrace
Удаленное профилирование
Даже на prod`е