Самое опасное изобретение или нет?
Атомная бомба … ?
Последний месяц я активнейшим образом тестирую ИИ и с каждым новым днем вижу, что это не тот ИИ-агент, который был вчера. Не тот в лучшем смысле этого слова.
У ИИ-агента из завтрашнего дня получается сделать работу, которую делали накануне, лучше, быстрее и качественнее. И это ни на секунду не метафора, а суровая правда жизни. С таким темпом развития технологии 6 месяцев, прошедшие с того момента, как я отказался от подписки ChatGPT в пользу Gemini, являются древнейшей историей.
Мне кажется, что темпы развития технологии не только превзошли линейный рост, а уже и «обошли» темпы экспоненциального роста, что в целом сравнимо с состоянием абсолютной неопределенности. Неопределенностью, которую можно считать аналогом горизонта событий1 — стеной, через которую не проходит ни один сигнал.
ИИ-модели начинают создавать сами себя, они явно умнее, чем подавляющее большинство людей, они способны выполнять работу каждого из нас, практически всегда лучше человека. Неважно, какая это работа: написание кода, обучение в классе, диагностирование пациента, реферирование правового документа, составление бухгалтерской отчетности и т.д.
Последнюю неделю я читаю много «всякого» около-ИИшного и крепко задумался над мыслительным экспериментом Дарио Амодеи2:
На дворе 2027 год, мы проснулись первого января и узнали, что «возникло» новое государство со 150 миллионами новых жителей, каждый из которых умнее, чем любой Нобелевский лауреат. Каждый житель этого государства думает в десятки раз быстрее обычного человека, они никогда не спят, они используют интернет, управляют роботами, проектируют эксперименты, создают исследовательские «песочницы» и умеют управлять ВСЕМ, что имеет цифровой интерфейс, от лампочки до атомной станции.
Вопрос: какой совет министр обороны даст президенту соседней страны?3
Если мы все еще считаем, что создание атомной бомбы было самым опасным изобретением человека, давайте подумаем еще…
А какой совет вы бы дали президенту?
BIO
🧠 theBrain mapping
ID: 202602190608 Source:: Friend:: Child:: Next:: Самое лучшее изобретение или нет
Footnotes
-
Технологическая сингулярность — гипотетический момент в будущем, когда технологическое развитие станет настолько стремительным и сложным, что окажется недоступным пониманию человека. Часто связывается с созданием ИИ, превосходящего человеческий интеллект, после чего прогресс станет неуправляемым и необратимым. ↩
-
Дарио Амодеи (Dario Amodei) — генеральный директор и соучредитель компании Anthropic (разработчики ИИ-модели Claude), ранее занимал пост вице-президента по исследованиям в OpenAI. Известен своим вниманием к вопросам безопасности искусственного интеллекта. ↩
-
Amodei D. Dario Amodei — The Adolescence of Technology [Электронный ресурс]. URL: https://www.darioamodei.com/essay/the-adolescence-of-technology (дата обращения: 18.02.2026). ↩