Навык мира Полудня. Самый важный навык эпохи ИИ

Если есть какая-то одна житейская мудрость, которой мне нравится учить детей (в школе и дома), так это то, что ВСЕ ВРУТ. Давайте приведу пример:

Буквально в июне я решил поиграть игру, а именно пригласил посетителя этого цифрового садика прочесть заметку, которую специально спроектировал специфическим образом. Заметка про “объяснение” начинается с одной предпосылки, а заканчивается иной, противоположной. Игра, которую я предложил читателю, заключалась в том, что ОБЕ предпосылки были враньем, а что еще удивительнее было то, что читатель “повелся на мой развод” после прочтения лишь одной из двух предпосылок¹.

Сразу после “первой” предпосылки читателю предлагалось высказаться о том, что он понял о компании Кодак, Сассоне и изобретении цифровой фотокамеры. Когда мне на почту начали приходить первые ответы, я понял, что “попал”, и попросил Макса опубликовать ссылку на эту заметку еще и у себя. Из 108 ответов, которые читатели мне прислали, лишь в ТРЕХ было написано, что ничего пока непонятно, остальные 105 были уверены, что поняли то, о чем я написал.

Когда к концу заметки читатели, приславшие мне сообщение, что они поняли, осознали, что их “развели”, в комментариях в мой адрес полетели проклятья.

Меня обвиняли в подмене понятий, умышленном обмане, в том, что я ничего не смыслю, не знаю и не понимаю, но самое главное в том, что моему мнению доверяют как “авторитетному”², а я их обманул. В общем “напихали” мне знатно.

Я еще в комментариях у себя и Максима “оправдывался”, что моя заметка СПЕЦИАЛЬНО так написана, чтобы вызвать именно эту реакцию, и даже сказал, что мы с Максимом тестировали, а именно — иллюзию понимания. Сослался на работу³, которая вдохновила нас с Максимом на это исследование, но мне и тут “прилетело” условное обвинение, что в работе, на которую я ссылаюсь, измеряется “иллюзия объяснительной глубины”, а я делаю не “пойми чего”. Но вот только …

… я очень хорошо понимал, что делаю.

Более того, этим неформальным экспериментом открывается наше с Максом большое исследование “иллюзии понимания” (через пару месяцев покажем вам ее), но я, пожалуй, вернусь к изначальному тезису: ВСЕ ВРУТ.

Врут ВСЕ, писатели, родители, дети, авторитеты. Нам врут в новостях, нам врут в социальных сетях, нам врут в фильмах. А если все врут, то как жить-то, когда никому нет веры?

А тут все относительно просто, но перед тем как рассказать “как жить, когда никому нет веры”, расскажу одну историю, иллюстрирующую мое мнение. Время сейчас не самое спокойное, поэтому и история не самая успокаивающая, уж извините.

Представьте, что вы единственный дежурный на пульте управления системы раннего оповещения, вы не подчиняетесь никому, у вас есть инструкция, что как только появляется сигнал запуска ракет, направленных в вашу сторону, то вы должны активировать, вернее не мешать активации системы “Периметр”, известной во всем мире как “Мертвая рука”⁴. И вот вы видите пять ракет, направленных в вашу сторону, запущенных со стороны недружественной страны, у вас есть всего пять минут перед тем как “Периметр” жахнет в ответ.

Ответили? Дайте расскажу, откуда этот сценарий: 26 сентября 1983 года, напряжение между СССР и западом накалено добела. Мы еще за месяц до инцидента с ракетками, о которых пойдет речь дальше, “случайно” уронили лайнер Корейских авиалиний, спутав его с “чем-то” или не спутав⁵. В общем, время было неспокойное⁶.

В реальной жизни, 26 сентября 1983 года, на пульте системы раннего оповещения сидел Станислав Петров, который увидел пять ракет, выпущенных в его сторону, однако вместо того, чтобы доложить “наверх”⁷, что в нашу сторону “летят”, он решил в докладе сообщить, что видит на радаре недостоверную информацию — система “Око”⁸ дала сбой.

Как вы думаете, почему он был так уверен, что система сработала ложно?

У меня есть убеждение, что он доложил не о летящих ракетах, а о ложном срабатывании, благодаря логике. Мне кажется, что он подумал вот так⁹: если кто-то решит жахнуть по СССР, то это точно будет не пятью жалкими ракетками, потому что если тот, кто решил жахнуть, до принятия решения “жахнуть” смотрел карту, то наверняка заметил размер СССР и что от пяти “ракеток” эффект будет, как если бросить в слона пять шутих (петард ракетного типа).

Станислав оказался прав. Позднее ученые выяснили, что этими “пятью ракетами” были “блики от солнца” из-за высокой облачности, попавшие на спутник, и так сложилось, что позиция солнца, спутника и орбиты, облака “эти еще” — вызвали ложное срабатывание системы раннего оповещения.

Можно сказать, что со Станиславом произошло то же самое, что я “провернул” с читателями своей статьи про “иллюзию понимания”. Петров, как и читатели, получил “какую-то” информацию, потом Петрову, как и читателям, было предложено принять какое-то решение (написать, что они поняли), 105 читателей, используя знание того, “что” произошло, посчитали, что знают/понимают, “как” это произошло. Лишь трое, как и Петров, решили усомниться в пределах того, что они понимают, даже когда информация к ним поступила из условно достоверного источника или от человека, которого они уважают и которому доверяют (спасибо Вам за это, друзья).

Наблюдение “за” – это подход, который оказался мне очень близок¹⁰. Суть наблюдения хорошо и доступно описал Дон Норман в своей книге “Дизайн повседневных вещей”¹¹.

Очень яркий пример “наблюдайте, вас обманывают” – это поведение родителей дома¹³. Поскольку ситуация, описанная в диалоге ниже, не редкость, у меня регулярно возникает следующий “воспитательный” разговор с детьми в классе¹⁴:

Обычно после моего “спасибо” в классе “повисает” не очень комфортная тишина. Детей не обманешь, они еще немного глупые (потому что нет опыта), но они ВСЕГДА знают, что что-то не так, им лишь нужно помочь увидеть, что на самом деле “не так” в их ощущениях¹⁵.

Окей, с самым простым способом все понятно, достаточно наблюдать, а что с тем, что посложнее?

А с “посложнее”, мне кажется, это уже “вымирающий” в эпоху ИИ “жанр”¹⁶. С возможностями современных нейросетей – никому нет и не может быть веры. Никакая информация, ни уважаемого автора, ни авторитетного и достоверного издательства не может быть принята на веру. Все-все-все должно быть подвергнуто критическому взгляду, но (и это хорошая новость) критически оценить информацию значительно проще, чем кажется.

Три вопроса – три ответа

В мире Полудня, мире, где “возможно все”¹⁷, на мой взгляд¹⁸ критически важно научиться задавать вопросы (не только три, представленных выше¹⁹) ко всему, что прочитали, услышали или увидели.

Метод “попроще” – это обычное, насколько оно вообще может быть обычным, логическое мышление²⁰. Мне не очень нравится формулировка “критическое мышление”, поэтому в попытке объяснить себе, что же это за зверь такой “критическое мышление”, я вывел для себя определение:

Умение логически оценивать информацию, оценивать не “для галочки”, а с целью “разобраться” и “понять”, наверное, ключевой навык мира Полудня²². Мира, в котором возможно ВСЕ, когда ИИ уже вырвался за пределы компьютера и может оказывать влияние²³ на реальный мир.

Ну и последнее, наиболее важное из всего написанного. Зная (понимая) все, о чем я рассказывал в этой заметке, Вы мне (все-таки) верите?

BIO