Логика творчества и ошибки решений. Часть 2

Эвристика — наука ошибок

«Представьте, что группе испытуемых предлагают найти закономерность в тройках чисел. Испытуемый может предложить свою тройку, и спросить, подходит ли она под закономерность или нет. Он может предлагать свои тройки и узнавать, подходят ли они до бесконечности. Но если он назовёт закономерность, и не угадает - то он проиграл. И для затравки предлагают тройку "2 - 4 - 6"

Допустим, наш испытуемый выдвигает версию - что закономерность — это +2. Следующее число в тройке больше предыдущего на 2.

Он хочет проверить - и спрашивает: "6-8-10 подходит?" - и получает ответ "да"

14 - 16 - 18? (14, 14+2, 14+2+2)

- Да.

- 2002, 2004, 2006?

- Да.

- 92222224, 92222226, 92222228?

- Да.

Убедившись, что его теория верна, испытуемый радостно называет её и... проигрывает.

Опыты показывают, что более умные выдвигают более сложные теории и... тоже ошибаются!!!

В чём же фокус?

Фокус в том, что закономерность, загаданная экспериментатором, настолько общая, что задумки большинства испытуемых являются её частными случаями. На самом деле, числа должны быть ... расположены по возрастанию. Всего-то...

Так вот, доказано, что чем умнее человек, тем изворотливее он убеждает себя, что первая выдвинутая им теория — верна. Тем сложнее эта теория. Тем тщательнее он её проверяет. И тем больше подтверждений находит...

А в чём же засада? Почему человек редко способен найти ошибку в этом случае?

Да потому, что методика не верная. Надо не подтверждения своей теории искать, а опровержения. Например, назвать тройки "7 - 15 - 4" и "18 - 200 - 500". И уже вторая из этих попыток разрушает самую очевидную теорию про "+2". И только если опровержений нет, можно неуверенно, но всё-же обоснованно говорить о том, что найден ответ.

Кстати, эксперимент 2-4-6 — это самая простая задача, демонстрирующая особенности научного поиска.

Как это находит отражение в нашей жизни?

Да очень просто. Заметили ли вы, что люди не способны договорится по политическим взглядам и по поводу истинности той или иной религии?

Предположив однажды, что та или иная религия, политический взгляд верен, человек начинает искать этому подтверждения. И находит их!!! Вне зависимости от верности взгляда/религии. Подтверждений больше, больше — и крепнет убеждение.

Ему бы тут остановится и спросить, "а что может опровергнуть мою идею?" - и осмотреться по сторонам. Возможно, опровержения его мыслям тут же найдутся рядом... Но... увы :)

Это действие могущественного эффекта 2-4-6 — эффекта подтверждения!!!»

Елиезер Юдковски. Когнитивные искажения, влияющие на оценку глобальных рисков.

Эффект подтверждения это одна из часто встречающихся эвристик, ошибок нашего мышления. Которое, явно влияет на наши взгляды, убеждения и соответственно на всю жизнь. И это не единственное когнитивное искажение.

Ещё одни пример из книги "Nudge: Архитектура выбора":

«Допустим, нужно определить численность населения Милуоки, в двух часах езды на север от Чикаго, где мы живем. Не обладая особой информацией, предположим, что это крупнейший город штата Висконсин. С чего начать? Можно с того, что нам уже известно, то есть населения Чикаго. Это приблизительно 3 млн человек. Милуоки — большой город, но гораздо меньше Чикаго, может быть, в три раза, то есть пусть будет миллион. Теперь представьте, что такой же вопрос задан жителю Грин-Бея в Висконсине. Этот человек не знает ответа.

Тем не менее ему известно, что население его родного города составляет примерно 100 тыс. и что Милуоки больше примерно в три раза. Таким образом, по подсчетам опрашиваемого, получится 300 тыс. человек.

Этот процесс называется привязкой и корректировкой. (подробнее см. тут) Вы отталкиваетесь от привязки, то есть известного количества, и вносите коррективы, которые кажутся разумными. Пока все идет нормально. Отклонения обычно возникают из-за неверной корректировки. Так, в нашем случае жители Чикаго склонны к завышению, исходя из привязки к высокому значению, а жители Грин-Бея — к занижению по причине привязки к низкому. На самом деле, в Милуоки проживает примерно 580 тыс. человек.»

Это была эвристика привязки и корректировки. Сколько ещё ошибочных эвристик присущи человеку? Вот список из 176 когнитивных искажений с экспериментами и примерами из жизни.

Когда-то я думал, что выучу их все и смогу улучшить своё мышление — не попадаться на ошибки. Оказалось не всё так просто, эти эвристики — часть процесса нашего мышления и просто избавиться от них не получится, но можно научиться вовремя замечать их, корректировать и оптимизировать решения на основе этих знаний.

Очевидно нужны годы тренировок и самоанализа, чтобы переустроить мозг, натренировать его замечать ошибки.

Если хочешь знать больше о том, почему мы совершаем ошибки, советую начать с книги Д. Канемана — «Думай медленно, решай быстро». Так же советую познакомиться с LessWrong — это сообщество людей, которые стремятся меньше ошибаться. Тут найдёшь много статей на тему рациональности и когнитивных искажений. Можно начать с книги — Рациональность: от ИИ до зомби.

Больше материала, по теме развития критического мышления.