Понимание дилеммы меняет взгляд на мир: рациональные действия индивидов приводят к коллективному провалу.
Классическая постановка
Представьте: вы с напарником ограбили банк. Вас поймали, но улики слабы, и следователь предлагает сделку. Если оба молчите — по году тюрьмы каждому. Если вы сдадите напарника, а он промолчит — вы на свободе, он на пять лет. Обратная ситуация — он сдаёт вас. Если оба сдадите — по три года каждому.
Логично молчать: совокупно два года вместо шести. Но вы не знаете выбор напарника. Если он молчит, ваш сговор — год тюрьмы, предательство — свобода. Если он сдаст — молчание даст вам пять лет, предательство — три. Во всех случаях предательство выгоднее: это доминирующая стратегия.
Напарник мыслит так же. Итог: оба предают, три года каждому — равновесие Неша. Состояние, где никто не улучшит положение в одиночку, хотя коллективный исход хуже.
Ядерная гонка: от монополии к безумию
3 сентября 1949 года американский самолёт на высоте 6 км уловил радиоактивность: церий-141 и иттрий-91 с коротким периодом полураспада. СССР испытал бомбу. Президент Трумэн объявил об этом 24 сентября. США потеряли монополию.
В Пентагоне предлагали упреждающий удар или водородную бомбу в тысячу раз мощнее атомной. Эйнштейн и Оппенгеймер возражали, но дилемма сработала: если СССР создаст H-бомбу, а США нет — СССР побеждает; наоборот — США. Если оба создадут — гонка; если никто — мир. Никто не верит никому, доминирует создание.
США взорвали первую H-бомбу в 1952-м, СССР — в 1953-м. К 1955-му у США 2500 зарядов, у СССР — 200. Спутник 1957-го показал: ракеты дотянутся везде. К 1962-му — 30 тысяч зарядов, к 1986-му — 70 тысяч, хватит на многократное уничтожение цивилизации.
Результат: взаимно гарантированное уничтожение (Mutual Assured Destruction, MAD). Обе стороны в равновесии Неша, потратив триллионы — хватило бы на 137 лет кормить голодных. Рациональность индивидов (стран) привела к глобальному тупику.
Антибиотики: добровольная капитуляция перед бактериями
В 1928-м Александр Флеминг открыл пенициллин. К 1950-му смертность от инфекций рухнула. Но каждый игрок начал "предательство".
Фермеры скармливали скоту антибиотики для ускорения набора веса — в разы больше, чем люди потребляют. Врачи выписывали их "на всякий случай", даже при вирусах. Фармкомпании игнорировали новые антибиотики: дешевле старые и препараты для хронических болезней.
Итог: супербактерии. Ежегодно 1 млн смертей; к 2050-му — 10 млн, больше, чем от рака. Рациональные решения фермеров, врачей и корпораций рождают коллективную катастрофу.
Климат: 200 игроков без доверия
Здесь 200 стран, ущерб растянут на десятилетия, выгода — немедленная. Если все сократят выбросы — сохраним климат цивилизации. Если никто — потеряем. Если только Европа — она проиграет конкуренцию Китаю и США, планета всё равно нагреется.
Доминирующая стратегия: загрязнять. С 1992-го (Рамочная конвенция ООН в Рио-де-Жанейро) — 30 саммитов, Киотский протокол, Парижское соглашение. За 30 лет выбросов CO₂ больше, чем за всю историю. Концентрация растёт, рекорды жары бьют ежегодно. Декларации не выполняют: одиночный шаг — проигрыш.
ИИ-гонка: максимальные ставки, минимум времени
Сейчас — новая дилемма: OpenAI, Google DeepMind, Anthropic, xAI, Baidu, китайские лаборатории. Руководители признают: сверхчеловеческий ИИ несёт экзистенциальные риски, сравнимые с пандемиями и ядерной войной. Сэм Альтман, Демис Хассабис, Дарио Амодей оценивают катастрофу в 10–25%.
Инвестиции — миллиарды на модели, полтриллиона на инфраструктуру в этом году. Если Anthropic затормозит — выиграет OpenAI; если США — Китай, и наоборот. Единственная рациональность — ускоряться, ведя к ненужному всем исходу.
Чем умнее игроки, тем ближе катастрофа. Дилемма заключённого показывает: индивидуальная логика губит всех. Выход требует доверия и координации — редкость в нашем мире.
Одноразовая игра с экзистенциальными ставками
В отличие от холодной войны, которая растянулась на 45 лет повторяющихся раундов, где стороны могли нарабатывать доверие, заключать договоры и отступать, гонка за сверхинтеллектуальным ИИ рискует стать однораундовой. Первая лаборатория, создавшая систему мощнее человеческого разума, может завершить игру навсегда — для всех конкурентов, стран и, возможно, человечества. Завтрашнего дня для исправления ошибок может не наступить.
Теория игр пока не имеет ответа: можно ли выбраться из дилеммы заключённого в такой одноразовой партии с экзистенциальными рисками? Игроки знают траекторию катастрофы, но остановка равносильна поражению. Семьдесят пять лет назад Джон Неш описал равновесие, из которого не выйти в одиночку. Это открытая задача, которую приходится решать здесь и сейчас, без права на черновик.
Но если рациональное преследование своих интересов ведёт к катастрофе, почему мы ещё живы?
Неожиданный триумф простоты
В 1979 году политолог Роберт Аксельрод провёл турнир компьютерных программ, моделирующих дилемму заключённого. Он пригласил экспертов из психологии, экономики, политологии, математики и социологии — всего 14 стратегий. Каждая программа играла против остальных в 200-раундовых партиях; турнир повторили пять раз, накопив 120 тысяч ходов.
Победила стратегия «око за око» профессора Анатолия Рапопорта — всего четыре строки кода: первый ход — сотрудничество, все последующие копируют ход противника. Средний счёт — 504 очка за партию. Ни одна сложная программа её не обошла.
Успех не зависел от длины кода или дисциплины автора. Ключевыми оказались три качества:
Каждый шаг требует глубокой кооперации. Большинство проваливается: племена истребляют друг друга, цивилизации гибнут от климата, колонии — от фракций. Космос молчалив не из-за злых пришельцев или «тёмного леса», а из-за математики: координация не возникает сама, нужен временной рост тени будущего.
Гонка технологий и мудрости
Раньше ошибки прощались: огонь — ожоги — огнетушитель; авто — аварии — ремни. Но ядерное оружие, биотехнологии, ИИ не терпят промахов. Нужны мудрость, долгосрочное мышление и планетарное сотрудничество с первого раза.
Оптимизм: впервые тень будущего удлиняется осознанно. Бактерии и импалы не выбирают; мы можем через культуру и технологии. Макс Тегмарк зовёт это «космическим наследием»: выбор заполнить Млечный Путь сотрудничеством или оставить пустым.
Кооперация как космический экзамен
Расширение кооперации человечеством — не моральный императив, а уникальная возможность, впервые открывшаяся в истории земной эволюции. Только мы решаем, использовать её или отвергнуть. Перед видом стоят два пути.
Путь к звёздам
Если мы пройдём этот этап, человечество выйдет за пределы Солнечной системы, неся с собой универсальную грамматику кооперации. Возможно, мы встретим другие цивилизации, движущиеся в том же направлении. Общение с ними станет возможным не из-за общего языка или похожей внешности, а благодаря идентичной логике, математике и представлению о будущем.
Цивилизации, преодолевшие Великий фильтр кооперации, разделяют фундаментальные принципы: воровство невыгодно, доверие строится постепенно, обмен предпочтительнее захвата, а долгосрочные отношения выгоднее краткосрочных. Эта грамматика станет универсальным языком всех выживших цивилизаций Вселенной.
Путь раковой опухоли
Если мы провалим экзамен, нас ждёт судьба раковой опухоли. Такая опухоль игнорирует будущее: берёт всё, что может, прямо сейчас, и в итоге убивает организм-хозяина, погибает вместе с ним. На космическом уровне мы уничтожим биосферу, на которой выросли, разучимся смотреть дальше своего носа, потратим ресурсы на войны вместо строительства лестницы к звёздам. За нашим кратким эпизодом разумной жизни ничего не последует.
Комментарии
Не, "око за око" против ИИ или климата — это чистый самообман, в реале такая тит-фо-тет только разожжёт эскалацию до полной жопы. Дилемма заключённого решается кооперацией с проверкой, а не местью, иначе парадокс Ферми объясняется просто — все вымерли от вашей "стратегии". Лол, статья на уровне 90-х.
Это правило не из 90-ых, а гораздо более ранних лет нашей истории.
Древнее, согласен, но эта хрень из пещерных времён только эскалацию плодит, а не решает дилеммы. С ИИ или климатом тит-фо-тэт с местью — прямой путь к вымиранию, как в парадоксе Ферми
Как-то раз на проекте коллеги все ресурсы забрали под свои задачи сразу, не оставив ничего на развитие, и в итоге всё развалилось, как та опухоль, о которой писали, а я просто смотрела и молчала, хотя уже тогда понимала, чем это кончится
Особенно зацепило «Чем умнее игроки, тем ближе катастрофа» - вот это реально сильная мысль, спасибо что акцентировал 😊
Представила Землю как большое тело, а нас как клетки-опухоли, которые вместо лестницы к звёздам вдруг решили построить месть соседям 😂 вдруг это и есть ответ на парадокс Ферми?
По климату: сетнеция "Если все сократят выбросы — сохраним климат цивилизации" с высокой вероятностью является ложной. Это никак не проверить. Большинство теоретических выкладок являются проплаченными работами (Гор и его последователи) для получения прибылей на СО2 квотах.
Вспоминаю фантастику, особенно советскую, где надо было спасать оступившиеся планеты. Вот фантасты хорошо всё предвидели уже тогда
Мрачный исход
Концепция «универсальной грамматики кооперации» - сильный ход. Если кооперация действительно может стать межвидовым языком, это снимает часть пессимизма парадокса Ферми, предполагая, что выжившие цивилизации разделяют не только математику, но и этику взаимодействия