Семинар XX

ТРЕБУЮТСЯ ТГ АКТИВИСТЫ
Фильм «Фонтан»
АКЦИЯ 1 МАРТА

3D-принтер (Оликевич)
25 февраля, Моск. обл., д. Фенино, д. 108 (ехать по Рязанскому ш.
до Бронниц или на электр. от м. Выхино до ст. Гжель, оттуда такси)

Ярославль (Батин)

Конгресс

Технологические аспекты СИНГУЛЯРНОСТИ
Медведев Данила

Вглядываясь в Сингулярность
Определения «нельзя предсказать»
«прогресс вертикальный»
«создание сверхразума»
Причинный анализ
причины непредсказуемости
характер изменений
Математика
ускорение
→ графики
→ «предсказание»

Непредсказуемость
?
AI
Ускоряющийся рост
Взрывной рост
(исчерпание трендов
за конечный срок)
Неопределённость
(самомодификация)
Возникновение
сверхинтеллекта
(непредсказуемость
для человека)

Причины непредсказуемости
непредсказуемость сегодня
умнее человека
мы не можем предсказать, что будет после С
проблема с моделями
мы не можем предсказать поведение более умной сущности, чем мы
иначе мы могли бы вести себя так же
Винж, 1982
неопределённость
самомодификация
правила не постоянны
в ИИ изначально есть доступ к коду
ИИ и нано
два направления, которые самоусиливаются
возможно, математическая непредсказуемость
бифуркации
предсказуемость!
если известна цель
Юдковски, 2006
но действия всё равно не известны
антропоморфизм - это не решение
т. к. ИИ очень разные
математическое решение
Рефлексивная теория принятия решений (понимание работы сознания, переписывающего свой код)

Проблемы с математикой
математика предсказывает
причинный анализ объясняет
качественный анализ описывает следствия
математика не важна для кач. модели
порог: переход через чел. интеллект
темпы роста могут расти, могут снижаться
вопрос: верно ли мат. модели описывают динамику?
на разных этапах
нет гарантии, что тенденции сохранятся

Сценарии
Четыре пути
ИИ
создание ИИ
поумнение сетей
УИ
интерфейсы мозг-компьютер
биологическое усиление
В. Винж, 1993

Когнитивная наука
Радикальное усиление интеллекта
ПО для организации знания, управления ими, генерации новых знаний
Оптимизация биологического мозга
ноотропики
прямая стимуляция (TMS)
доращивание (стволовые клетки)
интеграция
интерфейсы мозг-компьютер (I/O)
полная интеграция
загрузка

Нанотехнологии
Нанотех – это инструмент для контроля над физическим миром
а не полумеры вроде роботов
Нанокомпьютеры могут быть нужны для сверхмощного ИИ
Сложность нанотехнологий может требовать ИИ
Достаточно ли оптимизации кода для взрывного роста ИИ?
ДА
создаётся ИИ
Сингулярность
риск ИИ
создаются нанотехнологии
риск нанотеха
НЕТ
создаётся ИИ
разрабатываются нанотехнологии
риск нанотеха
усиливается ИИ
Сингулярность
риск ИИ