ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

КИИ 2010
О чем эта работа
Рассматривается реализация механизма эмоций мобильного робота на базе гибридной нейро-продукционной системы
Описывается влияние эмоций на поведение робота.
В модели реализованы обобщенные отрицательные и положительные эмоции, причем основной акцент сделан на влияние отрицательных эмоций.

КИИ 2010
Эмоции в ИИ
Роль эмоций в процессе рассуждений, наличие эмоциональных правил - [Поспелов, 1989]
Описание модели личности, поведение которой основывается во многом на эмоциональных оценках - [Гаазе-Рапопорт и др., 1987].
Формальный механизм описания эмоций и их классификация. Алгебра эмоций - [Фоминых, 2006, 2007] .
---------------------------------------------------------------------------
Вывод: с теориями эмоций (доведенных до формализма) в ИИ дело обстоит весьма успешно.

КИИ 2010
Эмоции в робототехнике
Основная задача исследований в этом направлении - создание эффективного человеко-машинного интерфейса, удобной, комфортной среды общения. Речь идет о внешней имитации эмоций и некоторых психических процессов.

КИИ 2010
Примеры «внешнего очеловечения»
Проект CB2 (Япония, Osaka University).
Вес - 33 кг., высота - 1,3 м. 51 пневматическим привод, микрофоны, видеокамеры, 200 тактильных датчиков.
------------------------------------
Проект Nexi (Массачусетский технологический институт, США)
------------------------------------
Задачи:
Комфортный интерфейс
Задачи обучения

КИИ 2010
Эмоции в робототехнике и ИИ
Несколько утрируя, можно сделать вывод о том, что ИИ интересуют эмоции прежде всего как внутренние процессы, а робототехника занимается в основном внешними проявлениями эмоций (внешнем отражении эмоциональных состояний). И в том, и в другом случае до реального эмоционального поведения обычно дело не доходит.
Здесь мы будем говорить не о внешней, имитационной стороне эмоций, а об их внутреннем «техническом» содержании, но не в «ИИ-смысле», а интересуясь прежде всего поведенческой составляющей Э.
Начнем с некоторых определений.

КИИ 2010
Эмоции
Эмоции (emovere – возбуждать, волновать) – состояния, связанные с субъективной оценкой значимости для индивида действующих на него факторов, оценочное отношение к существующим или возможным ситуациям или поведению. У человека эмоции порождают переживания удовольствия, неудовольствия, страха, робости и т.п., играющие роль ориентирующих субъективных сигналов. В отличие от чувств, Э не имеют объектной привязки: они возникают по отношению к ситуации в целом.
Э относятся к психическим процессам человека и высших позвоночных. Имеет ли смысл говорить об Э применительно к такому примитивному объекту, как робот?
Видимо, да, т.к. дальше речь будет идти об имитации роботом сложных поведенческих актов и сложных входных сигналов. Сложными являются и те, и другие, поскольку это модель, и задаются в уже готовом виде, а не реализуются детально естественным путем.
Когда мы говорим о том, что субъект «видит» препятствие, то подразумевается наличие очень сложного процесса обработки визуальной информации. Здесь же, у робота, мы имеем простой сигнал, выдаваемый дальномером, причем этот сигнал поступает сразу в систему управления высокого уровня.
То же самое касается и сложных действий – вместо сложного многоуровневого управления защитной реакцией организма, робот просто реализует заложенную программу избегания препятствий.
В определенном смысле рассматриваемые ниже модели оперируют именно высокоуровневыми реакциями и стимулами, что позволяет на этом уровне включать в рассмотрение некоторые психические процессы и явления.

КИИ 2010
Теории эмоций
Практически все теории Э сводятся к тому, что эмоциональное чувство возникает в результате сопоставления субъектом желаемых и достигнутых результатов действия.
Биологическая теория эмоций, П.К. Анохин. Это — теория эмоций, которая объясняет возникновения положительных (отрицательных) эмоций тем, что нервный субстрат эмоций активируется в тот момент, когда обнаруживается совпадение (рассогласование) акцептора действия, как афферентной модели ожидаемых результатов, с одной стороны, и сигнализации о реально достигнутом эффекте, с другой.
Теория активации эмоций (M.B. Arnold, G. Lindsey, 1951) Здесь более подчеркнута роль внутренних структур мозга. Сенсорные раздражители поступают от периферии к кортексу, оцениваются; там присоединяются чувственные оценки и заложенные в таламусе образцы поведения. После этого происходит переход к органу реализации. Оттуда идет обратное сообщение, которое снова проходит оценивание и очувствование.

КИИ 2010
Потребностно–информационная теория
Потребностно–информационная теория эмоций П.В. Симонова (1964). «Э. есть отражение мозгом человека и животных какой-либо актуальной потребности (ее качества и величины) и вероятности (возможности) ее удовлетворения». Последнюю мозг оценивает на основе генетического и ранее приобретенного индивидуального опыта.
Э = f(П, p(Ин, Ис)) (1)
Здесь Э - эмоция, ее степень, качество и знак;
П - сила и качество актуальной потребности;
p(Ин, Ис) - оценка возможности удовлетворения потребности;
Ин - информация о средствах, прогностически необходимых для удовлетворения потребности;
Ис - информация о существующих средствах, ресурсах и времени, которыми реально располагает субъект в данный момент времени.
Это – сугубо качественная, принципиальная формула.
---------------------------------------------------------------------------------------------------------
Рассмотрим далее Э с двух сторон:
Э, как индикатор состояния робота.
Э, как усилитель мотивации и как фактор, оказывающий влияние на поведение робота.

КИИ 2010
Задача
Мобильный робот и среда его обитания – полигон. Препятствия, зеленые («корм») и темные («опасность») пятна.
«Чувство голода». «Голод» утоляется, когда робот находится на зеленом пятне.
Неблагоприятные факторы: темные участки, приближение робота к препятствиям. Чем ближе к препятствию, тем сильнее чувство опасности (дискомфорт).
Задача: робот должен вести себя как можно более целесообразно, минимизируя свой дискомфорт:
Если робот «сыт», то он избегает препятствий, если голоден, то он идет искать пищу, невзирая на стремление находиться на открытом месте.
Действия: высокоуровневые, т.е. сложные поведенческие акты: «убегать от препятствия», «идти к препятствию», «избегать темных участков», «питаться» (ЦМП).
Рассмотрим далее некоторые модели, задающие такое целесообразное поведение робота
Сенсорика: дальномер, датчик цвета.

КИИ 2010
Модель 1. Продукционная система
Правила поведения робота.
Значения всех входных сигналов нормируются к значению на отрезке [0..1].
Модель поведения в терминах коэффициентов определенности (КО) - MYCIN-подобная продукционная модель.
Результирующий КО заключения: ω = ωcωR. ωR - априорный вес (значимость, приоритетность), приписанный правилу(КО правила)
Механизм вычислений КО не использует биполярные шкалы.
Отрицание: ¬ω=1-ω, И и ИЛИ: min, max, подтверждающие правила:
ω12 = ω1+ ω2 - ω1⋅ω2
Пример:
Если «Потребность в самосохранении» и «Обнаружено препятствие», то «Убегать»
и
Если «Потребность в комфортных условиях» и «Обнаружена опасность», то «Убегать»

КИИ 2010
Введение эмоциональной составляющей
С каждым действием связывается некоторая потребность (пунктирные линии на схеме).
Представим оценочную формулу (1) в следующем виде:
Э = П⋅(Ис - Ин)
Здесь Э - эмоция; П - потребность, Ин - информация о средствах, необходимых для удовлетворения потребности, Ис - информация о ресурсах, которыми реально располагает робот.
Каждая вершина-действие характеризуется некоторой величиной активности ai, т.е. в каждый момент времени существует вектор активности вершин действий
A=(a1,…,an)
где n - количество действий робота.
ai играет роль Иiс - оценки наличия существующих средств; Ин, (наличие необходимых средств для удовлетворения потребности) может быть определена как оценка посылки правила.
Правило для выполнения действия «Поедание пищи»:
Если «Потребность в пище»(Пп) и «Осязание пищи»(Sп), то «Поедание пищи»(an)
Или:
Пп и Sп → an
Пп, и Sп - оценки «Потребность в пище» и «Осязание пищи» (КО посылок). Величина выходной активности правила an= min(Пп,Sп)
an - прогностически необходимая активность действия, т.е. величина Иiн.
Фактическая активность правила aфn может не совпадать с an, т.к. робот может выполнять лишь одно из нескольких действий в данный момент времени (либо убегать, либо питаться). В простейшем случае после формирования вектора A в нем выбирается элемент ak, = max(A), т.е. робот выберет действие k. В этом случае формируется вектор фактических действий
Aф=(a ф1,…,a фn)
Здесь
Тогда для каждого действия i определяется его эмоциональная оценка Эi=Пi(ai - aфi)
Общее эмоциональное состояние робота Э определяется как

КИИ 2010
Вывод 1
Здесь Э действительно относятся ко всей текущей ситуации в целом.
Величины Эi носят характер «локальных», «частных» эмоций. Т.о., к действиям привязаны как потребности, так и эмоциональные оценки.
-------------------------------------------------------------------------
Итак, получен механизм эмоциональной оценки состояния робота. Здесь Э привязываются к действию, а не к потребностям. Полученная схема позволяет лишь оценивать эмоциональное состояние системы.
------------------------------------------------------------------------- Следующий вопрос: как эмоции могут влиять на поведение робота.

КИИ 2010
Модель 2. Нейро-продукционная система
Обоснование для введения нейроподобных элементов: рассматривается поведение робота в реальном физическом мире. Как входные сигналы, так и действия робота развернуты во времени, причем существенными являются естественная инерционность протекающих процессов. В этом смысле нейрон является прежде всего удобной элементной базой для описания этих процессов.
Базовые элементы - генератор и «упрощенный нейрон».
Генератор - создает импульсации, частота которых пропорциональна величине сигнала от сенсора или соответствующей потребности.
Входы вентилей - сигналы от генераторов сенсоров, а также сигналы эмоций, вырабатываемых правилами-действиями.
Именно в этом и заключается реализация механизма эмоций, как управляющих воздействий (обратная эмоциональная связь). Величина этой обратной эмоциональной связи определяется коэффициентом (КЭ).
Задача нейронов выходной группы (служебных нейронов) - стабилизировать выходной вектор (в каждый момент времени робот совершает лишь одно действие). Сигнал с выхода каждого служебного нейрона поступает на вход торможения остальных нейронов группы, подавляя их активность.

КИИ 2010
Нейрон
Большой пирамидный нейрон (Вальцев В.Б.)
Частота импульсации
Потенциал нейрона
Импульс, приходящий на вход возбуждения

КИИ 2010
Эксперименты. Преамбула 1
Некоторые аспекты эмоций с точки зрения психологии:
отражательно-оценочная роль эмоций (средство определения значимости тех или иных условий для удовлетворения своих потребностей);
мотивационная роль эмоций (оценка значимости внешнего раздражителя);
эмоции как сигнал о появившейся потребности (отражательно-оценочная роль эмоций в их связи с потребностями, как внутренних стимулов);
эмоции как способ маркировки значимых целей (субъект действует не с самими потребностями, а с теми предметами, которые им отвечают - целями);
эмоции как механизм, помогающий принятию решения (замещение информации, недостающей для принятия решения, оценка будущих событий) и проч.

КИИ 2010
Эксперменты. Преамбула 2: Особенности СУ
полученная система нелинейна;
выходные сигналы правил-действий, поступающие на вход вентильных нейронов, образуют контуры положительной обратной связи (ПОС);
структура входящих в состав системы элементов такова, что мы имеем дело с временными задержками
в системе неизбежно образуются сложно формализуемые процессы, в частности – колебательные.

КИИ 2010
Режим автогенераций
Введение эмоций в контур ПОС приводит к тому, что в системе начинаются колебательные процессы. Период колебаний зависит, в частности, от коэффициента эмоциональности (КЭ): при уменьшении этого коэффициента частота колебаний увеличивается.
Робот пытается то есть, то убегать от опасности. Здесь потребности в еде (PFOOD) и в самосохранении (PSAVE) максимальны и равны 1. При этом робот видит как еду (сенсор «Пища» SFOOD=0.45), так и стену (сенсор «Стена» SWALL = 0.65).

КИИ 2010
Шум
Шум в 10-20% - нормальное явление.
При определенных соотношениях между уровнем шума и коэффициентом эмоциональной связи могут возникать любопытные явления.
Пример: Робот видит стену (сенсор «Стена»: 0.05) и темное пятно (сенсор «Пятно»: 0.3). Робот должен или убегать от стены (пятна), или гулять (значения раздражителей малы).
t0-t1: КЭ = 0, шумов нет (Ш=0) и робот находится в стационарном режиме - совершается действие «Убегать».
t1-t2: Ш=0.2. Эмоций нет (КЭ=0). Здесь возникают колебания. Робот пытается то гулять, то убегать.
>t2: Вводим эмоциональную связь (КЭ = 0.5). Робот вновь переходит в стационарный режим - совершает действие «Убегать».
Зависимость колебательного процесса от силы эмоций (КЭ).
Шум постоянен, а меняются эмоции:
t0-t1: КЭ = 0 (колебания)
t1-t2: КЭ = 0.05 (стационарный режим)
>t2: КЭ = 0.7, вновь возникают колебания

КИИ 2010
Режим насыщения и «встряхивание» сети
Наличие ПОС приводит к тому, что элементы начинают работать в режиме насыщения и в некоторых ситуациях система перестает реагировать на изменения внешних сигналов.
Становится критичным то, каким было состояние системы в предыдущие моменты времени.
Одним из подобного рода ситуаций является своего рода «встряхивание» системы. Здесь «встряхивание» осуществляется шумом. Подобное «встряхивание» в ИНС - это весьма распространенный механизм, который выводит систему из локального экстремума («паралич» сети).

КИИ 2010
Фантомные сигналы
Компенсаторная функция эмоций.
Ситуация, в которой роботу вновь приходится выбирать действие - либо принимать пищу, либо убегать (робот видит стену и видит пищу). Все потребности максимальны и равны 1.
t3-t4: робот уже не видит стены, однако колебания продолжаются (будто стена еще есть). Это - реакция на «фантомный» сигнал. Далее эти колебания прекращаются, и система вновь переходит в стационарный режим.
Робот меняет свое поведение в зависимости от сигналов датчиков и значения КЭ.

КИИ 2010
Выходные нейроны как фильтр
Если ограничиться лишь выходными сигналами от решающих правил, то мы получим высокочастотные колебания.
В этом смысле служебные нейроны выходной группы играют роль своеобразного фильтра низких частот.
Введение обратных тормозящих связей нейронов этой группы приводит к уменьшению времени релаксации системы.

КИИ 2010
Отражательно-оценочная роль эмоций
Введение эмоциональной связи бывает полезным и в стационарных режимах.
Эксперимент: потребность в еде максимальна (робот «голоден») и при этом робот обнаружил пищу (правило «Питаться»). Вместе с тем робот не видел препятствий, и поэтому также было актуально правило «Гулять». Превалирующим правилом в данной конфигурации является именно «Гулять» (такова структура сети), поэтому голодный робот вместо приема пищи занимался случайными блужданиями. Введение ненулевого КЭ вызывает большие отрицательные Э («хочется есть, а приходится гулять») => потенциал возбуждения правила «Питаться» оказывается выше потенциала правила «Гулять».
Эмоции и значимость факторов
До момента t1 эмоций нет и робот «гуляет». В момент времени t1 (К=0.2) робот меняет свое поведение - начинает есть.
Здесь допустимо рассматривать проявление Э, как средство определения значимости тех или иных условий для удовлетворения своих потребностей. Отрицательные эмоции явным образом усиливают значимость вызвавших их факторов.

КИИ 2010
Заключение
Целью работы вовсе не являлось вскрытие механизма эмоций, его формализация и т.п. Речь шла о том, чтобы продемонстрировать механизм работы эмоций в реальном техническом устройстве - роботе.
Основной вывод: механизм эмоций может быть реализован достаточно простыми средствами. При этом действительно эмоциональное состояние робота самым непосредственным образом может влиять на его поведение.
Кроме того, показано, что для робота:
Эмоции - это естественный индикатор состояния системы. Более того, в некотором смысле эмоции могут определять критерии обучения организма (цель обучения - уменьшение отрицательных эмоций).
Эмоции контрастируют сенсорное восприятие и стабилизируют поведение.
Существенна роль эмоций в условиях неполноты информации.

КИИ 2010
Заключительные замечания 1
Виды эмоций. В работе все многообразие Э было сведено к двум - положительным и отрицательным. При этом рассматривались лишь отрицательные Э. Разумеется, положительные Э оказывают влияние на поведение, однако для их рассмотрения необходима более сложная модель.
Темперамент. Рассмотренные эмоциональные проявления целиком и полностью были функцией СУ, структура и параметры которой являлись фиксированными. Но стоит заинтересоваться зависимостью поведения робота от параметров системы, как мы придем к вопросу темперамента робота. Действительно, согласно учению И.П.Павлова именно соотношение основных свойств нервной системы - силы, уравновешенности и подвижности процессов возбуждения и торможения, - определяет ее тип. В этом смысле вполне можно говорить о темпераменте робота (робот-флегматик, холерик, сангвиник и меланхолик).
Обучение, поощрение и наказание. Одним из основных вопросов в процедуре обучения является организация поощрения-наказания. Многообещающим является введение понятия рефлексии в обучении, т.е. возможности оценивать некую предысторию действий, приведших к текущему результату - поощрению или наказанию. Для этого необходимо иметь интегральную оценку состояния системы. Такой оценкой является дискомфорт - некая обобщенная числовая характеристика, увеличивающаяся при неблагоприятном воздействии на систему и уменьшающаяся при благоприятном. В этом случае целью поведения системы будет реализация такого поведения, которое будет минимизировать дискомфорт.
Т.о., степень целесообразности поведения робота сводится к уменьшению дискомфорта, что с точки зрения психологических особенностей поведения можно свести к уже достаточно понятному механизму минимизации отрицательных Э.

КИИ 2010
Заключительные замечания 2
Сложность демонстрации. Длительные наблюдения. Проще наблюдать внутренний мир, а не внешнее поведение.
Индикация эмоционального состояния
Нерешенные вопросы:
Положительные эмоции.
Дифференциация эмоций.
Память. Являются ли фантомные сигналы прообразом механизма памяти?