Зачем разговаривать, если есть ИИ?

Бесчеловечный эксперимент

В 2023 году я подсадил в чатик с почти 2000 участниками GPT и дал возможность любому человеку с ним поговорить, как лично (за закрытой дверью личной переписки), так и в отдельном, специально открытом для этого топике. Результат меня неприятно удивил.

Сначала решение “выглядело” хорошо: число активных пользователей чатика выросло с 93 до 219 человек в сутки, ежедневное количество сообщений выросло в 2-3 раза, через неделю я решил подсадить в чатик второго бота, который собирал отчет о темах, которые поднимали люди и публиковал обобщение для участников чатика.

Оказалось, что второй бот, собирал отчет об ответных сообщениях, которые отправлял бот с ChatGPT. То есть бот обобщал, назовем условно посты, другого бота. Человеческое общение в группе из 2000 образованных людей сошло практически на нет.

Я огорчился и закрыл, нафиг ботика, но темпы общения больше не восстановились до сих пор. Есть минуты просветления, когда участники находят общую тему и активно ее обсуждают, например самая частая и интересная – это обсуждение письменных принадлежностей: перьевые ручки, блокноты, бумага и т.д. Но глубокие дискуссии о том, что такое PKM, или холивары «теги против папок» исчезли.

Прошло три года, и замечаю схожую тенденцию ПРАКТИЧЕСКИ по всем чатикам, участником которых являюсь, но что ещё более интересно, так это эволюция дискуссий. Я все-таки лингвист, и обращаю внимание слова маркеры, которые используются в диалоге.

Подавляющее большинство участников любого разговора онлайн ищет быстрое, прикладное решение под конкретную проблему. Мало у кого есть возможность¹, чтобы замедлиться, подумать, поговорить чуть глубже. На самом деле утилитарный подход к работе с информацией — я заметил влияние этого тренда даже на себе.

Мне нравится больше получать ответ от нейропоиска гугла, чем самому ковыряться в статье ноунейм автора в сети интернет (каким по сути являюсь и я). Я перестал² переходить по ссылкам, если спрашиваю гугл, как сделать что-то. Обобщение сделанное алгоритмом практически всегда дает ответ на искомый вопрос.

Разговаривать с кем-то, чтобы найти или понять что-то, тоже перестал. Мне проще «поговорить» с Claude о моей диссертации, чем отправлять своему научному руководителю фрагмент описанного исследования³. Опус с контекстом в 1 млн токенов справляется вполне успешно с ролью строгого критика моей работы. Помогает понять, что я сделал не так и что мне с этим делать потом.

И это, на самом деле ужасно…

Корень проблемы

Джозеф Вайценбаум в каком-то бородатом году провёл схожий с моим эксперимент⁴; я, собственно, вдохновлялся именно его работой, когда «подсаживал» в сообщество умных людей ChatGPT. Что он сделал: взял какую-то непренебрежительно большую группу профессоров и студентов и сказал им, что они будут разговаривать друг с другом, но только через интерфейс компьютера — они не будут видеть и слышать друг друга, а будут только читать и посылать друг другу текст.

После сессии — назовём это общения — студенты выходили воодушевлённые, говорили, что профессора, оказывается, чуткие, понимают их, прислушиваются к их проблемам, а профессора выходили и говорили, что студенты такие умные и на самом деле старательные, им просто нужно помочь и подсказать, так сказать направить.

Фокус в том, что, как вы уже, наверное, догадались, ни профессора не разговаривали со студентами, ни студенты не общались с профессорами. Все они разговаривали с первым в истории компьютерной науки чат-ботом, которого профессор Вейценбаум назвал Элизой, а обнаруженный в ходе этого эксперимента феномен он назвал “Эффектом Элизы”.

Чат-бот был запрограммирован таким образом, чтобы «отзеркаливать» речь партнёра и создавать иллюзию общения⁵:

Вейценбаум был настолько встревожен тем, что человек с бОльшей охотой разговаривает с машиной, чем с себе подобным, что остаток жизни провёл, пытаясь объяснить в своих книгах, что человек ДОЛЖЕН разговаривать с человеком, а не машиной.

Мой эксперимент полностью подтвердил то, что обнаружил профессор. Я был обескуражен не меньше его и чтобы понять “что происходит” обратился к одному человеку из моего сообщества, который чаще остальных общался с ИИ в личном чатике⁶. На что мне ответили, что нравится разговаривать с машиной, и со своими вопросами (как ему казалось, глупыми) он не будет обращаться к живому человеку или публично в чатике.

Мне кажется, что подобное происходит и с книгами, возвращаясь к прошлой заметке. Мы перестаём общаться с себе подобными, нам тяжело читать тексты⁷, но это не значит, что общение и чтение исчезнут. Личное общение и возможность читать вдумчиво превращаются в нечто элитарное.

Мне жутко повезло, что у меня в сообществе столько умных людей, которые меня читают и слушают, разговаривают со мной в комментариях, делятся обратной связью, заставляют задуматься над многими вещами, в том числе и тем, что общение в мире ИИ — признак некоторого статуса, точно так же как и возможность написать этот длинный текст, который прочитает только тот, кто устал от «шумного» интернета и пришёл ко мне в «тихий» сад подумать и, может быть, ответить мне.

BIO