Я имею в виду две вещи:
- Эпистемическая рациональность: систематическое повышение точности ваших убеждений.
- Инструментальная рациональность: систематическое достижение ваших ценностей.
Первая концепция достаточно проста. Когда вы открываете глаза и смотрите на окружающую вас комнату, вы определяете местоположение ноутбука по отношению к столу, а книжного шкафа — по отношению к стене. Если что-то пойдет не так с вашими глазами или вашим мозгом, то ваша ментальная модель может сказать, что есть книжный шкаф там, где его нет, и когда вы подойдете, чтобы взять книгу, вы будете разочарованы.
Вот что значит иметь ложное убеждение, карту мира, которая не соответствует территории. Эпистемическая рациональность заключается в построении точных карт. Это соответствие между убеждениями и реальностью обычно называют «истиной», и я счастлив называть ее так.
Инструментальная рациональность, с другой стороны, заключается в том, чтобы управлять реальностью — направлять будущее туда, куда вы хотите. Это искусство выбора действий, которые приводят к результатам, занимающим более высокое место в ваших предпочтениях. Иногда я называю это «победой».
Итак, рациональность заключается в формировании истинных убеждений и принятии решений, которые помогают вам победить.
(Где истина не означает «уверенность», поскольку мы можем сделать многое, чтобы увеличить вероятность того, что наши убеждения верны, даже если мы не уверены; а выигрыш не означает «выигрыш за счет других», поскольку наши ценности включают все, что нам дорого, включая других людей).
Когда люди говорят: «Х рационально!», это обычно просто более резкий способ сказать: «Я думаю, что Х истинно» или «Я думаю, что Х хорошо». Так зачем же иметь дополнительное слово для «рационального», а также для «истинного» и «хорошего»?
Аналогичный аргумент можно привести и против использования слова «истинный». Нет необходимости говорить «это правда, что снег белый», когда можно просто сказать «снег белый». Что делает идею истины полезной, так это то, что она позволяет нам говорить об общих особенностях соответствия карты-территории. «Истинные модели обычно дают лучшие экспериментальные предсказания, чем ложные модели» — это полезное обобщение, и его нельзя сделать без использования таких понятий, как «истинный» или «точный».
Аналогично, «Рациональные люди принимают решения, которые максимизируют вероятностное ожидание согласованной функции полезности» — это такая мысль, которая зависит от понятия (инструментальной) рациональности, тогда как «Рационально есть овощи», вероятно, можно заменить на «Полезно есть овощи» или «В ваших интересах есть овощи». Нам необходимо такое понятие, как «рациональное», чтобы отметить общие факты о тех способах мышления, которые систематически приводят к истине или ценности, и о тех систематических способах, которыми мы не соответствуем этим стандартам.
Как мы уже отмечали в предыдущих очерках, экспериментальные психологи иногда обнаруживают человеческие рассуждения, которые кажутся очень странными. Например, кто-то оценивает вероятность того, что «Билл играет джаз», как меньшую, чем вероятность того, что «Билл — бухгалтер, который играет джаз». Это кажется странным суждением, поскольку любой конкретный бухгалтер, играющий джаз, очевидно, играет джаз. Но к какой высшей точке зрения мы апеллируем, говоря, что это суждение неверно?
Экспериментальные психологи используют два золотых стандарта: теорию вероятности и теорию принятия решений.
Теория вероятности — это набор законов, лежащих в основе рациональных убеждений. Математика вероятности одинаково применима к «выяснению, где находится ваш книжный шкаф» и «оценке количества волос на голове Юлия Цезаря», даже если наши доказательства утверждения «Юлий Цезарь был лысым», скорее всего, будут более сложными и косвенными, чем доказательства утверждения «в моей комнате есть книжный шкаф». Это все та же проблема — как обработать доказательства и наблюдения, чтобы обновить свои убеждения. Аналогично, теория принятия решений — это набор законов, лежащих в основе рациональных действий, и она одинаково применима независимо от того, каковы цели и доступные варианты.
Пусть «P(такой-то и такой-то)» означает «вероятность того, что произойдет то-то и то-то», а «P(A,B)» — «вероятность того, что произойдет и A, и B». Поскольку универсальный закон теории вероятностей гласит, что P(A) ≥ P(A,B), суждение о том, что P(Билл играет джаз) меньше, чем P(Билл играет джаз, Билл — бухгалтер), обозначается как неверное.
Чтобы сохранить технический подход, можно сказать, что это вероятностное суждение является небайесовским. Убеждения, которые соответствуют согласованному распределению вероятностей, и решения, которые максимизируют вероятностное ожидание согласованной функции полезности, называются «байесовскими».
Я должен подчеркнуть, что это не то понятие рациональности, которое распространено в популярной культуре. Люди могут использовать один и тот же набор звуков, «ра-тио-нальный», для обозначения «вести себя как мистер Спок из «Звездного пути» и «вести себя как Байес»; но это не означает, что поведение как у Спока помогает причесываться с эпистемической или инструментальной рациональностью.
Все это не исчерпывает проблему того, что на практике подразумевается под «рациональностью», по двум основным причинам:
Во-первых, байесовские формализмы в их полном виде являются вычислительно неразрешимыми для большинства реальных проблем. Никто не может реально вычислить математику и подчиниться ей, так же как вы можете предсказать фондовый рынок, вычислив движение кварков.
Вот почему существует целый сайт под названием » Less Wrong «, а не одна страница, на которой просто излагаются формальные аксиомы и на этом все заканчивается. Поиск истины и достижение ценности изнутри человеческого разума — это целое искусство: мы должны изучить собственные недостатки, преодолеть предубеждения, предотвратить самообман, привести себя в хорошую эмоциональную форму, чтобы противостоять правде и сделать то, что нужно сделать, и так далее, и так далее.
Во-вторых, иногда под сомнение ставится смысл самой математики. Точные правила теории вероятности ставятся под сомнение, например, при решении антропных задач, в которых число наблюдателей неопределенно. Точные правила теории принятия решений ставятся под сомнение, например, проблемами типа Ньюкомбла, в которых другие агенты могут предсказать ваше решение до того, как оно произойдет.
В тех случаях, когда наши лучшие модели формализации все же оказываются недостаточными, мы можем вернуться к более простым понятиям, таким как «истина» и «выигрыш». Если вы — ученый, только начинающий исследовать огонь, возможно, будет гораздо разумнее указать на костер и сказать: «Огонь — это вон та оранжево-яркая горячая штука», чем сказать: «Я определяю огонь как алхимическую трансмутацию веществ с выделением флогистона». Конечно, не стоит игнорировать что-то только потому, что вы не можете дать этому определение. Я не могу по памяти процитировать уравнения общей теории относительности, но, тем не менее, если я пойду с обрыва, я упаду. То же самое можно сказать о когнитивных предубеждениях и других препятствиях на пути к истине — они не станут менее сильными, если выяснится, что мы не можем сформулировать четкое определение того, что такое «иррациональность».
В подобных случаях бесполезно пытаться решить проблему, придумав какое-то новое определение слова «рациональный» и сказав: «Поэтому мой предпочтительный ответ, по определению, является тем, что подразумевается под словом «рациональный». «Это просто поднимает вопрос о том, почему кто-то должен обращать внимание на ваше определение. Меня не интересует теория вероятности, потому что это святое слово, переданное от Лапласа. Я заинтересован в обновлении убеждений в стиле Байеса (с приоритетами Оккама), потому что я ожидаю, что этот стиль мышления систематически приближает нас к, знаете ли, точности, к карте, которая отражает территорию.
И еще есть вопросы о том, как думать, на которые, кажется, не дают ответа ни теория вероятностей, ни теория принятия решений — например, вопрос о том, как относиться к истине, когда она у вас есть. Здесь, опять же, попытка определить «рациональность» определенным образом не дает ответа, а лишь предполагает его.
Я здесь не для того, чтобы спорить о значении слова, даже если это слово — «рациональность». Смысл закрепления последовательностей букв за определенными понятиями заключается в том, чтобы позволить двум людям общаться — помочь перенести мысли из одной головы в другую. Вы не можете изменить реальность или доказать мысль, манипулируя тем, какие смыслы сочетаются с какими словами.
Итак, если вы понимаете, к какому понятию я в целом подвожу слово «рациональность», а также подтермины «эпистемическая рациональность» и «инструментальная рациональность», мы общаемся: мы достигли всего, чего можно достичь, обсуждая, как определить «рациональность». Осталось обсудить не то, какое значение придать слогам «ра-тио-на-ли-ти»; осталось обсудить то, что является хорошим способом мышления.
Если вы говорите: «Для меня (эпистемически) рационально верить в X, но истина — Y», то вы, вероятно, используете слово «рациональный» в значении, отличном от того, что я имею в виду. (Например, «рациональность» должна быть последовательной при размышлении — «рациональный» взгляд на доказательства и «рациональное» рассмотрение того, как ваш разум обрабатывает доказательства, не должны приводить к двум разным выводам).
Аналогично, если вы говорите: «(инструментально) рациональным для меня является поступок X, но правильным для меня является поступок Y», то вы почти наверняка используете какое-то другое значение слова «рациональный» или слова «правильный». Я использую термин «рациональность» нормативно, чтобы выделить желательные модели мышления.
В этом случае — или в любом другом случае, когда люди не согласны со значениями слов, — вам следует заменить слово «рациональный» более конкретным: «Самый выгодный поступок — убежать, но я надеюсь, что я хотя бы попытался оттащить ребенка от железнодорожных путей» или «Теория каузальных решений, как она обычно формулируется, говорит, что вы должны решить проблему Ньюкомба в два счета, но я бы предпочел получить миллион долларов».
На самом деле, я рекомендую перечитать это эссе, заменить все слова «рациональный» на «фузальный» и посмотреть, изменит ли это коннотацию моих слов. Если да, то я скажу: стремитесь не к рациональности, а к фузальности.
Слово «рациональный» имеет потенциальные подводные камни, но есть множество не пограничных случаев, когда «рациональный» отлично подходит для передачи того, что я имею в виду. Точно так же и «иррациональный». В этих случаях я не боюсь его использовать.
И все же следует быть осторожным, чтобы не злоупотреблять этим словом. За громкое произношение не дают очков. Если вы слишком много говорите о Пути, вы его не достигнете.
BIO
Keywords:
Reference:
- https://www.lesswrong.com/s/NBDFAKt3GbFwnwzQF/p/RcZCwxFiZzE6X7nsv
Related:
