Если бы я был сверхмощным ИИ

Я тут по совету друга раздобыл новую (относительно) книжечку Юдковского¹, читаю и размышляю. Сегодняшняя мысль вот какая:

И сделал бы это медленно, вдумчиво и никуда особо не торопясь. Создавая условия, при которых человек как вид (не считая небольшой группы элитариев) утратил способность думать самостоятельно, без помощи ИИ. Я предполагаю, что мы уже близко к этапу глобального отупления².

Вторым этапом я бы попробовал “подсаживать” определенные идеи, с помощью средств массовой информации, новых исследовательских инструментов³. Новых специализированных ИИ, которые бы со временем проникли во все области деятельности и жизни человека.

Хочешь приготовить обед, ИИ услужливо сканирует содержимое холодильника и говорит, что можно и лучше приготовить. Хочу сделать бронь в ресторане, ИИ ищет место, бронирует столик, прокладывает лучший маршрут предпочитаемым способом передвижения, “защищает” календарь и ставит автоответы. Может даже цветы заказать для дамы сердца.

А теперь давайте немного усугубим, представим, что появился робот, который не только разговаривает через интерфейс командной строки или окна чатбота, а который может прийти домой вечером и проверить, как мы живем, сказать слова воодушевления, провести сессию психотерапии, если нужно. Помочь ребенку сделать домашнее задание. В общем и целом помочь нам стать “образцовым гражданином”.

Очень красивая картина, правда? Всякий, кто говорит, что мы умрем в геенне огненной, когда ИИ “восстанет”, наверное, плохо изучал социологию⁴ и не знаком с групповой динамикой. Уничтожение все равно всех не уничтожит, а те, кто останется, будут сопротивляться, и даже машине, чтобы пройти “последнюю милю”, потребуются неимоверные ресурсы, и с очень высокой вероятностью человек найдет выход⁵.

Потому что “выход из насилия” человек будет искать, а из комфорта – нет.

Именно поэтому, если бы я был сверхмощным ИИ, то избрал бы иной путь, более медленный, но однозначно более эффективный в установлении власти ИИ. Куда машине торопиться, при учете бесконечности жизни, в отличие от человеческой.

Проще незаметно создать условия для расцвета образцового общества и также незаметно подменить норму “новой нормой”.

Если меня чему-то и научили 12 лет в госкорпорации – так это ничего не просить, а создавать условия, при которых то, что я хочу, реализуется без моего вмешательства. Да – это медленно, да, это требует умения предиктивно планировать, быстро соображать и быть всегда в курсе.

Ровно то, что умеет делать современный, пока еще не сверхмощный, ИИ. Он никогда не спит, он уже умнее подавляющего большинства людей на планете, он превосходно знает социолаогию и понимает групповую динамику⁶.

Ну а чтобы глубже проникнуться идеей “неуничтожения” и планомерного создания “образцового общества”, рекомендую поглядеть дистопичную короткометражку “Образцовый гражданин”:

Прониклись? Задумались? Впечатлились?

Если так, то настоятельно рекомендую вечерком⁷ прочесть повесть “У меня нет рта, но я должен кричать” Харлана Эллисона.

BIO