Чему научились нейросети в 2018 году

В СЕРЕДИНУ ПОДБОРКИ ЛУЧШИХ ПУБЛИКАЦИЙ ПО МАШИННОМУ ОБУЧЕНИЮ ЗА АПРЕЛЬ 2018 ГОДА ПОПАЛА ПУБЛИКАЦИЯ ЛАБОРАТОРИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА UBER О РАЗРАБОТКАХ В СФЕРЕ НЕЙРОННЫХ СЕТЕЙ И ПОПЫТКЕ ПЕРЕНОСА ПОНЯТИЯ ПЛАСТИЧНОСТИ БИОЛОГИЧЕСКИХ НЕЙРОСЕТЕЙ. ПЛАСТИЧНОСТЬ РЕАЛЬНЫХ НЕЙРОНОВ ЗАКЛЮЧАЕТСЯ В СПОСОБНОСТИ К ПОСТОЯННОМУ ВЗАИМОДЕЙСТВИЮ МЕЖДУ НЕЙРОНАМИ НА ПРОТЯЖЕНИИ ВСЕГО СУЩЕСТВОВАНИЯ НЕЙРОННОЙ СЕТИ, ЧТО ПОЗВОЛЯЕТ ЖИВОТНЫМ АДАПТИРОВАТЬСЯ К ИЗМЕНЯЮЩИМСЯ УСЛОВИЯМ В ТЕЧЕНИЕ ВСЕЙ ЖИЗНИ.
В СТАТЬЕ РАССМАТРИВАЕТСЯ ОДИН ИЗ ВОЗМОЖНЫХ ПОДХОДОВ ДЛЯ ТАКОГО «ДОУЧИВАНИЯ» ИСКУССТВЕННЫХ НЕЙРОСЕТЕЙ.
ВЗАИМОДЕЙСТВИЕ НЕЙРОСЕТЕЙ

МЭТТЬЮ ГАЗДАЯЛ И МАРК РИДЛ ВМЕСТЕ С КОЛЛЕГАМИ ИЗ ТЕХНОЛОГИЧЕСКОГО ИНСТИТУТА ДЖОРДЖИИ ОБУЧИЛИ ИИ СОЗДАВАТЬ КОМПЬЮТЕРНЫЕ ИГРЫ. АЛГОРИТМ НАБЛЮДАЕТ ЗА ЛЮДЬМИ, ИГРАЮЩИМИ В КЛАССИЧЕСКИЕ ИГРЫ, И СОЗДАЕТ СОБСТВЕННЫЕ НА ОСНОВЕ ИХ КЛЮЧЕВЫХ ОСОБЕННОСТЕЙ. ТАКИМ ОБРАЗОМ ИССЛЕДОВАТЕЛИ ХОТЯТ НАУЧИТЬ ИИ ТВОРИТЬ.
МИМИКРИЯ
УЧЕНЫЕ ВЫБРАЛИ МИМИКРИЮ В КАЧЕСТВЕ СПОСОБА ОБУЧЕНИЯ НЕЙРОСЕТИ, ПОТОМУ ЧТО МАЛЕНЬКИЕ ДЕТИ УЧАТСЯ ТВОРЧЕСТВУ, ПОДРАЖАЯ КОМУ-НИБУДЬ. ОДНАКО ВПОСЛЕДСТВИИ ЛЮДИ УХОДЯТ ОТ МИМИКРИИ. ИИ ОБУЧАЛСЯ, НАБЛЮДАЯ ЗА ПРОХОЖДЕНИЕМ ЛЮДЬМИ ПЕРВЫХ УРОВНЕЙ SUPER MARIO BROS., KIRBY’S ADVENTURE И MEGA MAN. ПОЛУЧИВ НЕОБХОДИМЫЕ ДАННЫЕ, НЕЙРОСЕТЬ СОПОСТАВЛЯЛА ОТНОШЕНИЯ МЕЖДУ ОБЪЕКТАМИ В ИГРЕ И ИХ ВЛИЯНИЕ НА ИГРОВОЙ ПРОЦЕСС. РЕЗУЛЬТАТ УЧЕНЫЕ ПРЕДСТАВИЛИ В ВИДЕ ДИАГРАММЫ. ЗАТЕМ ИИ ДАВАЛИ ЗАДАНИЕ СОЗДАТЬ СВОЙ ИГРОВОЙ ПРОЦЕСС НА ОСНОВЕ ПОЛУЧЕННЫХ ДАННЫХ.
СОЗДАНИЕ КОМПЬЮТЕРНЫХ ИГР

БРИТАНСКАЯ КОМПАНИЯ DEEPMIND, В 2014 ГОДУ СТАВШАЯ ЧАСТЬЮ GOOGLE, ПОСТОЯННО РАБОТАЕТ НАД СОВЕРШЕНСТВОВАНИЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА. В ИЮНЕ 2018 ГОДА ЕЕ СОТРУДНИКИ ПРЕДСТАВИЛИ НЕЙРОННУЮ СЕТЬ, СПОСОБНУЮ СОЗДАВАТЬ ТРЕХМЕРНЫЕ ИЗОБРАЖЕНИЯ НА ОСНОВЕ ДВУМЕРНЫХ. В ОКТЯБРЕ РАЗРАБОТЧИКИ ПОШЛИ ДАЛЬШЕ — ОНИ СОЗДАЛИ НЕЙРОСЕТЬ BIGGAN ДЛЯ ГЕНЕРАЦИИ ИЗОБРАЖЕНИЙ ПРИРОДЫ, ЖИВОТНЫХ И ПРЕДМЕТОВ, КОТОРЫЕ СЛОЖНО ОТЛИЧИТЬ ОТ НАСТОЯЩИХ ФОТОГРАФИЙ.
КАК И В ДРУГИХ ПРОЕКТАХ ПО СОЗДАНИЮ ИСКУССТВЕННЫХ ИЗОБРАЖЕНИЙ, ДАННАЯ ТЕХНОЛОГИЯ ОСНОВАНА НА ГЕНЕРАТИВНО-СОСТЯЗАТЕЛЬНОЙ НЕЙРОСЕТИ. НАПОМНИМ, ЧТО ОНА СОСТОИТ ИЗ ДВУХ ЧАСТЕЙ: ГЕНЕРАТОРА И ДИСКРИМИНАТОРА. ПЕРВАЯ СОЗДАЕТ ИЗОБРАЖЕНИЯ, А ВТОРАЯ ОЦЕНИВАЕТ ИХ СХОЖЕСТЬ С ОБРАЗЦАМИ ИДЕАЛЬНОГО РЕЗУЛЬТАТА.
ЧТОБЫ НАУЧИТЬ BIGGAN СОЗДАВАТЬ ФОТОГРАФИИ БАБОЧЕК, СОБАК И ЕДЫ, ИСПОЛЬЗОВАЛИСЬ РАЗНЫЕ НАБОРЫ ИЗОБРАЖЕНИЙ. СНАЧАЛА ДЛЯ ОБУЧЕНИЯ ИСПОЛЬЗОВАЛАСЬ БАЗА IMAGENET, А ЗАТЕМ — БОЛЕЕ МАСШТАБНЫЙ НАБОР JFT-300M ИЗ 300 МИЛЛИОНОВ ИЗОБРАЖЕНИЙ, РАЗДЕЛЕННЫХ НА 18 000 КАТЕГОРИЙ.
ОБУЧЕНИЕ BIGGAN ЗАНЯЛО 2 ДНЯ. ДЛЯ ЭТОГО ПОТРЕБОВАЛОСЬ 128 ТЕНЗОРНЫХ ПРОЦЕССОРОВ GOOGLE, РАЗРАБОТАННЫХ СПЕЦИАЛЬНО ДЛЯ МАШИННОГО ОБУЧЕНИЯ.
ТРЕХМЕРНЫЕ ИЗОБРАЖЕНИЯ

УЧЁНЫЕ ИЗ РОССИИ, ЭСТОНИИ И ВЕЛИКОБРИТАНИИ СОЗДАЛИ НОВЫЙ МЕТОД ПРОГНОЗИРОВАНИЯ ВАЖНОГО СВОЙСТВА ОРГАНИЧЕСКИХ МОЛЕКУЛ – ФАКТОРА БИОКОНЦЕНТРАЦИИ.
НОВЫЙ ПОДХОД, ОСНОВАННЫЙ НА КЛАССИЧЕСКИХ МОДЕЛЯХ ФИЗИКО-ХИМИЧЕСКИХ ВЗАИМОДЕЙСТВИЙ РАСТВОРИТЕЛЯ С РАСТВОРЯЕМЫМ ВЕЩЕСТВОМ И СОВРЕМЕННЫХ МЕТОДАХ МАШИННОГО ОБУЧЕНИЯ, ПОЗВОЛЯЕТ ПРОГНОЗИРОВАТЬ СЛОЖНЫЕ СВОЙСТВА ВЕЩЕСТВ, ИСПОЛЬЗУЯ МИНИМАЛЬНЫЙ НАБОР ИСХОДНЫХ ДАННЫХ.
РАЗРАБОТАННЫЙ УЧЕНЫМИ МЕТОД ПОЗВОЛИТ СУЩЕСТВЕННО УПРОСТИТЬ ПРОГНОЗИРОВАНИЕ ЭКОЛОГИЧЕСКОЙ НАГРУЗКИ ОТ ТОГО ИЛИ ИНОГО ВЕЩЕСТВА. НО САМОЕ ГЛАВНОЕ В НАШЕЙ РАБОТЕ ЭТО ТО, ЧТО МЫ РАЗРАБОТАЛИ УНИВЕРСАЛЬНЫЙ СПОСОБ ОПИСАНИЯ МОЛЕКУЛЫ ДЛЯ ПЕРЕДАЧИ ЕЁ "ОБРАЗА" В ТРЁХМЕРНУЮ СВЁРТОЧНУЮ НЕЙРОННУЮ СЕТЬ
ФАКТОР БИОКОНЦЕНТРАЦИИ