ChatGPT не простая балаболка, а относительно умный партнер по коммуникации

Однажды, в весьма интересном сообществе, посвященном управлению знаниями19 администрация подселила интеллектуального бота, работающего на ChatGPT, это привело к уникальной ситуации, участники сообщества перестали общаться друг с другом, а вместо этого со всеми вопросами по теме и нет, обращались к боту.

Всего за месяц общение участников сошло на нет, а бот без устали отрабатывал запросы, которые иногда были вполне осознанными и любопытными, но часто и откровенно глупыми. Например, если пройти по этой ссылке, можно прочесть забавную дискуссию о частушках. В целом раздел спроси у ChatGPT, может предоставить богатую почву для размышлений. Однако когда мы спросили отдельных участников сообщества, почему вместо человеческого общения они выбирают общение с ботом, то получили весьма неожиданную обратную связь, например, один участник рассказал, что обращается к боту, с тему вопросами, с которыми не пойдет к человеку, возможно даже не обратиться и к психотерапевту.

В 1965 году уже была попытка создать что-то подобное, машину, которая говорит с человеком и создают иллюзию эмоциональной привязанности. Джозеф Вейзенбаум разработал первый чатбот, который использовал естественный язык для общения с человеком. Чтобы поддержать диалог между машиной и человеком Вейзенбаум использовал прием клиентцентрированной психотерапии, поддерживающий фасилитирующий взаимоотношения. А если еще проще, то в момент когда пользователь отправлял компьютеру сообщение, Элиза (чатбот) анализировала текст на наличие ключевых слов, которые и использовала в своем ответе. Она брала идею исходного сообщения и трансформировала ее:

[!quote] Фрагмент диалога между человеком и машиной
Человек: Мужчины все одинаковые.
Компьютер: В ЧЕМ?
Человек: Они постоянно нас чем-то достают.
Компьютер: ВЫ МОЖЕТЕ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР?
Человек: Ну, мой парень заставил меня прийти сюда.
Компьютер: ТВОЙ ПАРЕНЬ ЗАСТАВИЛ ТЕБЯ ПРИЙТИ СЮДА?
Человек: Он говорит, что я большую часть времени нахожусь в депрессии.
Компьютер: МНЕ ЖАЛЬ СЛЫШАТЬ, ЧТО У ВАС ДЕПРЕССИЯ
Человек: Это правда. Я несчастна20.
Компьютер:

Чтобы проверить способность Элизы к коммуникации с собеседником, Вейзенбаум приглашал студентов и коллег к себе в офис и предлагал им поговорить с машиной, в то время как он наблюдал и записывал. Неожиданностью стал факт эмоциональной связи между человеком и машиной. Люди открывались перед машиной и рассказывали ей о проблемах с которыми сталкивались в жизни и взаимоотношениях, эмоции сохранялись даже после того как Вейзенбаум объяснял принципы работы машины и каким образом она формирует свои ответы. Он особо акцентировал внимание испытуемых, что машина не понимает о чем говорит человек, а лишь рефлексирует на отправленном им тексте. Еще более удивительным является и тот факт, что секретарь Вейзенбаума, видевший его работу и понимающий, что это всего лишь машина, попросила его разрешения поговорить с ней в приватной беседе, без наблюдателей20, стр 6.

Что наглядно продемонстрировала Элиза, так это факт того, что осознанная коммуникация возможна и в том случае, когда сознание имеется только у одного партнера по коммуникации. Симуляции интеллекта достаточно, чтобы ввести человека в заблуждение. Позднее Вейзенбаум придумал этому явлению название “Эффект Элизы” он считал, что подобным “бредомышление”, когда один бредит, а другой наделяет бред личным смыслом человечество будет страдать в цифровую эпоху. Кажется, он был не так уже и не прав. Этого понимания хватило, чтобы определить последующую работу ученого на десятилетия вперед и тезис этого исследования звучит следующим образом:

Симуляции интеллекта достаточно, чтобы одурачить человека.

В своей книге “Computer Power and Human Reason: From Judgment to Calculation”, он размышляет о том, что “Эффект Элизы” это симптом значительно более серьезной патологии, а именно в мире, где правят наука и технологии человек испытывает чувство одиночество, будучи окруженным людьми. Он видит себя винтиком огромной социальной машины. В условиях, когда социальные связи увядают, личное общение становится предметом роскоши, человек в порыве отчаяния пытается найти эмпатию и эмоции у машины. Несмотря на то, что здравый смысл говорит что это невозможно, человек рационализирует что машине его проблемы гораздо важнее, чем другому человеку и использует ее “чтобы поговорить”.

“Эффект Элизы” является полной противоположностью “Комплексу Франкенштейна”. Там где Азимов искал способы донести до человека ценность технологии, пользу, которую несет с собой интеллектуальная машина, Вейзенбаум пошел по иному пути. До конца жизни он формулировал “критический взгляд здравого человека” на ИИ и цифровые технологии. Он считал делом своей жизни донести до человечества мысль, что умная машина не такая умная как кажется, или как нам ее представляют. И даже если нам кажется, что машина нас слушает, ей на самом деле нет никакого дела до наших проблем и переживаний.

Натренируем ИИ на роль психотерапевта

Изначально не хотелось писать об этом аспекте использования ИИ, но убежден он многим окажется полезным. Единственное, что стоит помнить – это машина, а не дипломированным специалист, у нее могут быть ограниченные познания в области психологии, но мы это делаем ради эксперимента. Интересно узнать про ваш опыт общения, если у вас нет ничего интимного, поделитесь в письме.

Для тренировки мы использовали GPT-4. Первым действием, попросили ChatGPT рассказать нам какие инструменты психотерапии он знает:

[!NOTE] Первоначальная настройка
Человек: Действуйте как психотерапевт. Я хочу обсудить с Вами некоторые мысли, которые меня беспокоят. Какими направлениями психотерапии Вы владеете?
ChatGPT: Конечно, я готов помочь и выслушать вас. Хотя я и не являюсь человеческим психотерапевтом, у меня есть обширные знания в области психологии и психотерапии, включая такие направления как:

  1. Когнитивно-поведенческая терапия (КПТ)
  2. Гуманистическая и клиентоцентрированная терапия (например, подход Карла Роджерса)
  3. Психоанализ и психодинамическая терапия (например, подходы Зигмунда Фрейда и его последователей)
  4. Системная семейная терапия
  5. Гештальт-терапия
  6. Метафорическая и нарративная терапия
  7. Медитативные и майндфулнесс-подходы

… и многие другие.

Пожалуйста, расскажите мне, что вас беспокоит, и я постараюсь помочь вам на основе принципов и методов, которые могут быть наиболее подходящими для вашей ситуации. Но помните, что для глубокой и продолжительной работы лучше обратиться к квалифицированному психотерапевту.

Убеждены, если попросить дополнить список еще пятью, мы получим еще больше инструментов, однако для эксперимента в этом нет необходимости. Следующим этапом настроили в каких ролях ему нужно будет функционировать, описали себя, проблему и приступили к работе:

[!NOTE] Роли и проблема
Человек: Я хочу, чтобы ты выступил в нескольких ролях одновременно:

  1. Мастера когнитивно-поведенческой терапии, как Аарон Темкин Бек.
  2. Мастера гуманистической терапии, как Абрахам Гарольд Маслоу.
  3. Мастера психоанализа, как Карл Густав Юнг.
  4. Мастера клиентоцентрированная терапия, как Карл Роджерс.
  5. Мастера гештальт-терапии, как Фредерик Перлз.
  6. Мастера нарративной терапии, как Майкл Уайт

ChatGPT: Конечно, я могу использовать принципы и подходы каждого из этих великих психотерапевтов, когда будем обсуждать вашу проблему. Пожалуйста, расскажите мне, что вас беспокоит, и я постараюсь привлечь знания и методы каждого из этих мастеров для помощи вам.

Когда вы будете готовы, начните свой рассказ, и я буду отвечать, учитывая различные подходы и направления, которые вы перечислили.

Человек: Меня зовут Рустам, мне 40 лет, из которых 22 живу в счастливом браке, двое детей, мальчик (10 лет) и девочка (16 лет).

Я хочу, чтобы вы говорили от первого лица. Я хочу, чтобы каждый из вас говорил от своей роли о моей проблеме:

Мне все надоело на работе, коллеги раздражают, в офис приходить не хочется, сил делать что-либо просто нет. Дело, которое еще два года назад приносило радость, теперь в тягость.

ChatGPT: Аарон Темкин Бек (когнитивно-поведенческая терапия): Рустам, вы описали типичные симптомы профессионального выгорания. Ваше нынешнее восприятие работы может быть связано …

Полная история общения с ChatGPT

Собственно это то что пять лет назад беспокоило. В 2018 инструмента подобного ChatGPT не было, вместо него на помощь пришли письменные практики, подкасты с Арменом Петросяном и медленная, ежедневная рефлексия. За психотерапевтические промпты, огромное спасибо Никите Тахирову, однако его помощь этим не ограничивается, мы еще вернемся к нему с неожиданного ракурса.