Физические основы нейронных сетей и сенсорных систем

План занятия
Сенсорные системы и сети:
определение;
примеры применения.
Искусственные нейронные сети:
определение;
примеры применения.

Зачем это вообще?
Цель курса — познакомить вас с двумя группами актуальных и востребованных технологий:
В любом современном высокотехнологичном продукте или сервисе используются либо сенсорные системы и сети, либо искусственные нейронные сети, либо и то, и другое.

Зачем это вообще?
Карл Маркс и Фридрих Энгельс — это не муж и жена, а четыре совершенно разных человека.
Сенсорные системы и искусственные нейронные сети — это разные группы технологий, поэтому и курс будет делиться на две равные и мало связанные друг с другом части:
1. Сенсорные системы и сети.
2. Искусственные нейронные сети.

План занятия
Сенсорные системы и сети:
определение;
примеры применения.
Искусственные нейронные сети:
определение;
примеры применения.

Сенсоры
Преобразователь физической величины — устройство, предназначенное для восприятия и преобразования контролируемой физической величины в выходной сигнал (ГОСТ Р 51086-97).
Первичный измерительный преобразователь (sensor) — устройство, используемое при измерении,
которое обеспечивает на выходе величину, находящуюся в определенном соотношении с входной величиной,
и на которое непосредственно воздействует явление, физический объект или вещество, являющееся носителем величины, подлежащей измерению (ГОСТ Р 8.673-2009).

Сенсоры
Датчик — средство измерений, предназначенное для выработки сигнала измерительной информации в форме, удобной для передачи, дальнейшего преобразования, обработки и (или) хранения, но не поддающейся непосредственному восприятию наблюдателем (ГОСТ Р 51086-97).
Датчик — конструктивно обособленное устройство, содержащее один или несколько первичных измерительных преобразователей (ГОСТ Р 8.673-2009).
Слово «сенсор» в настоящий момент в русском языке используется как синоним слова «датчик».

Сенсоры
Окружающий мир Вычислительные системы
Датчик

Сенсоры
Виды датчиков (классификация неполная):
температуры;
давления;
влажности;
радиоактивности;
вибрации;
ускорения (акселерометр);
положения (на основе гироскопа);
и другие.

Сенсорные системы и сети
А что если взять и объединить множество датчиков?
В современном мире чаще используются не единичные датчики, а их совокупности:
Несколько различных датчиков, объединенных в систему.
Географически распределенная система из большого количества датчиков 1-2 типов.

Сенсорные системы и сети
Несколько различных датчиков, объединенных в систему — смартфон.

Сенсорные системы и сети
Несколько различных датчиков, объединенных в систему — смартфон.
«датчик прикосновения» — сенсорный экран;
микрофон;
«датчик» GPS;
сканер отпечатка пальца;
датчик освещенности;
датчик приближения;
акселерометр и/или гироскоп;
магнитометр (компас);
камера (слежение за взглядом).

Сенсорные системы и сети
Географически распределенная система из большого количества датчиков — беспроводные (всепроникающие) сенсорные сети.
«умный дом»;
системы контроля промышленных объектов;
контроль автотрафика;
контроль проникновения на территорию;
контроль экологических параметров;
ресурсосбережение.

Сенсорные системы и сети
ITU-T Y.2221:
Сенсорный узел — устройство, состоящее из датчика (и опционально — актора) и оборудования для обработки и передачи информации:

Сенсорные системы и сети

Сенсорные системы и сети
ITU-T Y.2221:
Сенсорная сеть — сеть, включающая в себя связанные друг с другом по проводным или беспроводным каналам сенсорные узлы, осуществляющие пересылку данных друг другу.
Беспроводная сенсорная сеть
Всепроникающая сенсорная сеть (Ubiquitous sensor network, USN) — концептуальная интеллектуальная сеть, построенная поверх существующих сетей связи и предоставляющая данные от множества сенсоров в любое время, в любом месте и любому потребителю.

Сенсорные системы и сети

Сенсорные системы и сети

План занятия
Сенсорные системы и сети:
определение;
примеры применения.
Искусственные нейронные сети:
определение;
примеры применения.

Сенсорные системы и сети
Мониторинг параметров окружающей среды (температура, вибрации, содержание вредных веществ в атмосфере) на различных индустриальных объектах.

Сенсорные системы и сети
Мониторинг температуры, освещенности, силы и направления ветра, влажности воздуха и почвы в сельском хозяйстве.

Сенсорные системы и сети
Мониторинг состояния здоровья человека (в больнице, дома, на поле боя).

Сенсорные системы и сети
«Умный дом» — следующий шаг в развитии USN, сочетание в одной системе сенсоров и акторов

О чем будут лекции?
Примерные темы последующих лекций, практических и лабораторных работ:
(?) История развития сенсорных систем.
Физические принципы, лежащие в основе различных датчиков. Критерии выбора датчиков для решения практических задач.
Принципы работы протоколов беспроводной передачи данных для сенсорных сетей (физический и канальный уровень). Критерии выбора протоколов для решения практических задач.
(?) Обзор существующих технологий и платформ для создания сенсорных систем.
Интернет вещей — обзор приложений.

План занятия
Сенсорные системы и сети:
определение;
примеры применения.
Искусственные нейронные сети:
определение;
примеры применения.

Искусственные нейронные сети
Искусственные нейронные сети — математические модели, а также их программные или аппаратные реализации, построенные по принципу организации и функционирования биологических нейронных сетей.
Биологическая нейронная сеть — совокупность нейронов, которые связаны или функционально объединены в нервной системе, выполняют специфические физиологические функции.

Биологические нейронные сети
Нервная система человека построена из нейронов — клеток, способных (помимо прочего) принимать, обрабатывать и передавать электрохимические импульсы

Биологические нейронные сети
Объединенные аксонами нейроны образуют в мозге человека сложную сеть.
Каждая связь между нейронами имеет свой вес — силу синаптической связи.
Синапсы имеют «знак» — они могут быть возбуждающими или тормозящими.
Каждый нейрон имеет «проговое значение» срабатывания — величину электрохимического воздействия на него, после которого он также передаст электрохимический импульс.

А как бы нам это использовать?
Человеческий мозг справлялся лучше компьютеров с большим числом задач. Но:
Ограниченные вычислительные возможности человеческого мозга.
Ограниченное число людей.
Когнитивные искажения.
Искусственные нейронные сети — попытка избавиться от этих недостатков при решении ряда задач.

А как бы нам это использовать?
Применение искусственных нейронных сетей:
Распознавание графических образов, речи.
Классификация графических образов и др.
Принятие решений и прогнозирование.

Искусственные нейронные сети
На основе данных принципов строятся искусственные нейронные сети:

Искусственные нейронные сети
Характеристики ИНС:
Несколько слоев сети (внешние и скрытые).
Коэффициенты каждой связи.
В каждом узле — пороговая функция:

Искусственные нейронные сети
Как найти коэффициенты связей и параметры пороговой функции?
Биологические нейронные сети:

Искусственные нейронные сети
Как найти коэффициенты связей и параметры пороговой функции?
Биологические нейронные сети:
Обучение.
Искусственные нейронные сети:

Искусственные нейронные сети
Как найти коэффициенты связей и параметры пороговой функции?
Биологические нейронные сети:
Обучение.
Искусственные нейронные сети:
Тоже обучение!

Искусственные нейронные сети
Обучение нейронной сети:
Начальные параметры выбираются на основе экспертного мнения или случайно.
Существует набор данных для обучения (исходные данные, «правильный» ответ на вопрос для которых известен).
Обучающий набор данных пропускается через ИНС, вычисляется разница между известными ответами и значениями на выходе ИНС (обычно сумма квадратов).
Коэффициенты ИНС изменяются, пока не будут найдены такие коэффициенты, при которых ошибка минимальна (идеально — равна нулю, на практике — стабильна при изменении набора обучающих данных).

Искусственные нейронные сети
Метод обратного распространения ошибки — один из методов подбора весов:

План занятия
Сенсорные системы и сети:
определение;
примеры применения.
Искусственные нейронные сети:
определение;
примеры применения.

Применение ИНС
Deep Dream от Google:

Применение ИНС
Deep Dream от Google:

Применение ИНС

Серьезные применения ИНС
Применение искусственных нейронных сетей:
Распознавание графических образов, речи.
Классификация графических образов и др.
Принятие решений и прогнозирование.