Гуманоиды, они такие предсказуемые, или Как я хулиганил в Сколково

Гуманоиды, они такие предсказуемые, или Как я хулиганил в Сколково

Большую часть подростковой жизни я прожил в военном общежитии — знаете, такие длинные коридоры, на этаже по 15 блоков, одна кухня на все семьи, два или три общих складских помещения, широкий коридор с зоной для “чаепития” рядом с кухней. Дружили целыми этажами и ходили друг к другу целыми этажами. Я жил на 12-м этаже, когда женился — переехали на 13-й, а мой друг Артур Валерьевич жил на 4-м.

Когда мы с ним были детьми, у подростков-мальчишек нашего дома было любимое место для “сходок”. Артур “командировал” в своё личное распоряжение одно из складских помещений этажа, которое не использовалось — по договорённости, конечно. Там у него были стол, стул, кровать, компьютер и журнальный столик. Рядом с журнальным столиком стояло шикарное кресло, которое он либо сам собрал, либо кто-то притащил ему — этакий “древний” аналог икеевского “Поэнга” из металла и гнутых труб. Кресло отлично качалось, а в качестве мягкого основания использовался целый матрас. В общем, не кресло, а произведение искусства.

На журнальном столике лежала стопка журналов. В то время популярны были “Хакер”, “Страна игр”, “Chip”, “Игромания” и ещё какие-то, помню только те, что читал сам. Стопка была достаточно большая, а в самом низу, между вторым и третьим журналами, лежал “Penthouse”. Артурчик любил хулиганить и приклеил этот журнал к тому, что лежал поверх “мурзилки для подростков”. Каждый раз, когда кто-то хотел вынуть “Penthouse” из стопки, не снимая журналы сверху, вся стопка опрокидывалась.

Как вы думаете, за каким журналом у всех, кто садился в суперкомфортное кресло “случайно” поставленное рядом со столиком, тянулась рука в первую очередь? Конечно, за “Penthouse”. Люди от природы ленивы, и снимать целую пирамиду из журналов сверху — “не барское это дело”. Поэтому приходящие пытались вытянуть порножурнал, придерживая пирамиду рукой, но, как ожидалось, у них это не получалось, и стопка опрокидывалась. Артур при этом повторял одну и ту же фразу: “Гуманоиды, они такие предсказуемые”.

На моей памяти не было ни одного человека, который бы первым делом не потянулся за журнал с “интересными” картинками — независимо от пола.

Эта длинная предыстория нужна, чтобы рассказать про один любопытный эксперимент, который мне посчастливилось спроектировать и провести, результаты которого я предугадал, потому что:

Гуманоиды, они такие предсказуемые.

Если компьютеры с каждым годом умнеют, значит ли это, что люди глупеют?

Так я назвал интерактивную лекцию, которую меня попросили прочитать перед резидентами технопарка “Сколково”. После лекции состоялась премьера фильма “Реплика”.

Цель, которую я себе поставил, заключалась в желании столкнуть слушателей с противоречием: с ИИ не всё так однозначно. У человека нет окончательного ответа, хорошо ли развитие и проникновение ИИ во все области деятельности или нет. Для этого я поставил три задачи:

• Представить общий взгляд на ИИ как на феномен.
• Подчеркнуть, как легкодоступность информации лишает человека возможности понять, что он действительно усвоил¹.
• Продемонстрировать несостоятельность убеждения, что развитие ИИ — это однозначно хорошо.

Начал с представления самого себя. Чтобы установить контакт со слушателями, пока рассказывал о себе, попросил их назвать свой возраст, род занятий и один любопытный факт о себе. На лекцию пришли в основном работающие люди в возрасте от 35 до 60 лет, то есть достаточно возрастная аудитория:

2 / 2

Asset_02

1 / 2

← Назад | Свайп | Далее →

Asset_01

После того как мы установили контакт, я задал первый вопрос: считают ли они ИИ благом или злом? Это был “срез” базовой установки: 88,4% — благо, остальные — зло.

СКОЛКОВО. Благо - зло 1. лекции умнеющие компьютеры.png

После этого я начал рассказывать о том, чем занимался весь последний месяц в школе. Я работал со школьниками и студентами, проводил открытые занятия, на которых интересовался, к кому они обратятся, если нужно узнать что-то сложное. Рассказал резидентам “Сколково” ответы детей, что к родителям обращаются меньше 20%, к учителям — чуть больше 30%, а к YouTube и TikTok — более 86% (опрос был множественного выбора, поэтому такое распределение процентов). Я пытался продемонстрировать слушателям лекции, насколько беспочвенна убеждённость детей, что “в интернете найдётся всё”. Для выполнения этой задачи провёл эксперимент, который Максим описывает во фрагменте третьей книги¹.

Сможете посадить самолёт и не умереть?

Суть эксперимента такова: я показал участникам ролик без звука, на котором инструктор объясняет, как осуществить посадку самолёта малой авиации Cessna. Они смотрели его в полной тишине, на большом экране, без моих комментариев, в течение одной минуты. Когда ролик закончился, я попросил ответить на вопрос:

Насколько вы уверены (от 1 — “нет” до 10 — “вполне”), что сможете посадить самолёт после просмотра видеоинструкции?

Я дал ссылку на гугл-форму с просьбой заполнить её. Мне удалось воспроизвести один из этапов оригинального эксперимента², и распределение ответов довольно точно повторило результаты 2022 года.

СКОЛКОВО. Посадка самолета лекции умнеющие компьютеры.png

После этого я начал рассказывать о “предвзятости автоматизации”³ — о том, как пустая информация, которую ИИ сегодня генерирует в огромных масштабах, может создать иллюзию понимания. Это, в свою очередь, мешает осознать, что мы не знаем то, что не знаем (это не опечатка: незнание пределов нашего незнания — основной драйвер открытий). Как мне кажется, это приведёт к тяжёлым последствиям. Я упомянул 30-летний эксперимент Ясюковой⁴ и попросил ещё раз ответить на вопрос: ИИ — благо или зло?

СКОЛКОВО. Благо - зло 2. лекции умнеющие компьютеры.png

Результат был ожидаемым: в глазах аудитории я заметил лёгкое разочарование⁵. Думаю, они надеялись, что ИИ — это чудо-машина, которая поможет решить их проблемы, предоставит инструкцию по изготовлению “серебряной пули” и рецепт “красной пилюли”, но оказалось, что всё не так просто. На этом этапе я решил “переключить передачу” и рассказал про Ли Седола,

Про создание AlphaGo и о том, как ИИ подтолкнул человека к тому, чтобы увидеть решение, которое раньше оставалось за пределами его понимания — про “цифровую интуицию”. Описал, как ИИ может помогать врачам диагностировать ранние стадии болезни Альцгеймера и Паркинсона. Рассказал, как выпускник медицинского университета, вооружённый камерой с ИИ-ассистентом, с 95% вероятностью диагностирует злокачественную опухоль, когда она ещё операбельна (такой процент выдаёт только врач с 30-летним опытом). Как ИИ всё больше проникает в жизнь и облегчает задачи учителям, ученикам, учёным, исследователям, менеджерам, маркетологам, домохозяйкам и инженерам. И снова попросил пройти опрос: благо или зло?

СКОЛКОВО. Благо - зло 3. лекции умнеющие компьютеры.png

Лекцию я закончил двумя историями. Одна — об Айзеке Азимове и его попытках помочь читателям преодолеть “комплекс Франкенштейна”⁶, другая — о Джозефе Вайценбауме и эффекте Элизы⁷, с которым учёный из MIT боролся до конца своей жизни.

Так что, как думаете? Благо или зло?

BIO