Систематические ошибки в рассуждениях при оценке глобальных рисков

Трансгуманизм
Изучает тенденции науки и технологий
Просчитывает риски и пути развития человечества
Направляет исследования и общественный прогресс

Глобальные риски
Большой адронный коллайдер
Искусственный интеллект
Биотехнологии
Нанотехнологии
Ядерное оружие
Супервулканы
Черные дыры
Астероиды
Матрица
SETI
…

Когнитивные искажения
систематические ошибки в мышлении или шаблонные отклонения в суждениях, которые происходят в определенных ситуациях.

Принятие решений
Эффект повального увлечения
Слепое пятно в отношении когнитивных искажений
Профессиональная деформация
Уклон в сторону поиска информации
Недооценка бездействия
Эффект вклада
Иллюзия контроля
Подчинение авторитету
…

Вероятности и верования
Каскад доступной информации («повторите нечто достаточно долго и это станет правдой»)
Отклонение в сторону позитивного исхода
Эффект ожидания наблюдателя
Приукрашивание прошлого
Иллюзия корреляции
Эффект телескопа
Стереотипизация
…

Социальные искажения
Эффект эгоцентричности
Эффект фальшивого консенсуса
Фундаментальная ошибка атрибуции
Самосбывающиеся пророчества
Феномен справедливого мира
Эффект первого впечатления
Стадный инстинкт
…

Ошибки памяти
Благодетель
Криптомнезия
Эгоцентрическое искажение
Ложная память (принятие неизвестного за известное)
Кажущееся постоянство
…

Доступность информации
Что более вероятно: что слово начинается с буквы R ("rope"), или что его третья буква R ("park")?
Аварии или болезни?
Риск человеческого истребления может быть недооценен, поскольку, очевидно, человечество никогда не сталкивалось с этим событием.

Знание «задним числом»
«Я так и знал, что так будет»
Малоизвестные исторические события
Взрыв Челленджера (1986 г.)

«Черные лебеди»
Дефолт 1998 года
В основном, виноваты ошибки, связанные с доступностью информации, а также знание «задним числом»
«Черные лебеди» случаются

Логическое И
Эксперимент с 2-хцветным кубиком
КЗККК
ЗКЗККК
ЗККККК

Эффект подтверждения
Задача 2-4-6

Якорение
Сколько африканских стран входит в ООН?
Только 12 штук в одни руки!

Обусловленность аффектом
На что потратить деньги аэропорту?
Спасти 150 жизней – 10,4
Спасти 98% от 150 жизней – 13,6
Даже предложение «спасти 85% от 150 жизней» имело большую поддержку, чем «спасение 150 жизней»

Пренебрежение масштабом
2000/20000/200000 птиц
Спасти 100 000 000 человек

Сверхуверенность
Более 60% опрошенных социологов считают, что они принадлежат к 10 лучшим специалистам в мире
Три четверти водителей уверены в том, что они водят машину лучше, чем среднестатистический водитель

Апатия прохожего
Эксперимент с дымом из вентиляционной трубы
Помощь нужно просить индивидуально

Если риск реален…
…почему так мало людей пытаются с этим что-то сделать?
Люди могут быть сверхуверены и сверхоптимистичны
Они могут не помнить ни одного случая всеобщего истребления
Они могут переоценивать предсказуемость прошлого, и за счёт этого недооценивать сюрпризы будущего
Они могут быть отравлены кинофильмами, в которых мир, в конце концов, бывает спасён
Они могут получить моральное удовлетворение гораздо проще, давая деньги на другие виды благотворительности
…

Предупреждение
Не становитесь профессиональным спорщиком
В первую очередь необходимо следить за собой

Выводы
Необходимость единого подхода к анализу глобальных рисков
Мы не знаем того, чего именно мы не знаем
Предложение вознаграждения не устраняет ошибку
люди не становятся умнее, только потому, что речь идёт о выживании человечества
Люди, которые и подумать не могут о том, чтобы навредить ребёнку, говорят по поводу рисков глобальных катастроф: «Возможно, человеческий вид вовсе не заслуживает выживания»

Литература
Э.Юдковски. Систематические ошибки в рассуждениях, потенциально влияющие на оценку глобальных рисков.
Baron, J. (2000). Thinking and deciding (3d. edition).
«Выборы, ценности и рамки». Choices, Values, and Frames. (2000.) Edited by Daniel Kahneman and Amos Tversky.
«Эвристика и систематические модели мышления». Heuristics and Biases. (2003.) Edited by Thomas Gilovich, Dale Griffin, and Daniel Kahneman.