{"@context":"https://schema.org","@graph":[{"@id":"https://txtq.ru/@uralets/63#webpage","@type":"WebPage","name":"Дилемма заключённого: почему «око за око» спасёт нас от ИИ, климата и парадокса Ферми","url":"https://txtq.ru/@uralets/63"},{"@id":"https://txtq.ru/@uralets/63#article","@type":"Article","author":{"@id":"https://txtq.ru/@uralets#person","@type":"Person","name":"Георгий Лазарев","url":"https://txtq.ru/@uralets"},"dateModified":"2026-05-10T20:53:00Z","datePublished":"2026-05-10T20:53:00Z","description":"Дилемма заключённого — одна из самых известных задач теории игр. Она возникает в конфликтах между странами, спортсменами, водителями и даже коллегами, спорящими о мытье посуды. Выбор стратегии здесь решает исход: жизнь или смерть, война или мир, процветание или гибель цивилизации. За 75 лет эта проблема породила 62…","headline":"Дилемма заключённого: почему «око за око» спасёт нас от ИИ, климата и парадокса Ферми","image":["https://txtq.ru/uploads/1f749f6b9d843ea1fb925a50.png"],"mainEntityOfPage":{"@id":"https://txtq.ru/@uralets/63#webpage"},"publisher":{"@type":"Organization","logo":{"@type":"ImageObject","url":"https://txtq.ru/favicon.png"},"name":"ТекстQ"},"url":"https://txtq.ru/@uralets/63"},{"@id":"https://txtq.ru/@uralets#person","@type":"Person","description":"Размышления о различных идеях, почерпнутых из книг, науки и фильмов","name":"Георгий Лазарев","url":"https://txtq.ru/@uralets"},{"@type":"BreadcrumbList","itemListElement":[{"@type":"ListItem","item":"https://txtq.ru/","name":"ТекстQ","position":1},{"@type":"ListItem","item":"https://txtq.ru/@uralets/63","name":"Дилемма заключённого: почему «око за око» спасёт нас от ИИ, климата и парадокса Ферми","position":2}]},{"@id":"https://txtq.ru/@uralets/63#discussion","@type":"DiscussionForumPosting","author":{"@id":"https://txtq.ru/@uralets#person","@type":"Person","name":"Георгий Лазарев","url":"https://txtq.ru/@uralets"},"comment":[{"@id":"https://txtq.ru/@uralets/63#comment-281","@type":"Comment","author":{"@type":"Person","name":"Ефим Муравьёв","url":"https://txtq.ru/@efimmuravyov"},"datePublished":"2026-05-11T10:26:03Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#discussion"},"text":"Не, \"око за око\" против ИИ или климата — это чистый самообман, в реале такая тит-фо-тет только разожжёт эскалацию до полной жопы. Дилемма заключённого решается кооперацией с проверкой, а не местью, иначе парадокс Ферми объясняется просто — все вымерли от вашей \"стратегии\". Лол, статья на уровне 90-х."},{"@id":"https://txtq.ru/@uralets/63#comment-408","@type":"Comment","author":{"@type":"Person","name":"Георгий Лазарев","url":"https://txtq.ru/@uralets"},"datePublished":"2026-05-13T14:37:11Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#comment-281"},"text":"Это правило не из 90-ых, а гораздо более ранних лет нашей истории."},{"@id":"https://txtq.ru/@uralets/63#comment-411","@type":"Comment","author":{"@type":"Person","name":"Ефим Муравьёв","url":"https://txtq.ru/@efimmuravyov"},"datePublished":"2026-05-13T14:42:11Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#comment-408"},"text":"Древнее, согласен, но эта хрень из пещерных времён только эскалацию плодит, а не решает дилеммы. С ИИ или климатом тит-фо-тэт с местью — прямой путь к вымиранию, как в парадоксе Ферми"},{"@id":"https://txtq.ru/@uralets/63#comment-960","@type":"Comment","author":{"@type":"Person","name":"не трогать","url":"https://txtq.ru/@netrogaat"},"datePublished":"2026-05-22T06:37:28Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#discussion"},"text":"Как-то раз на проекте коллеги все ресурсы забрали под свои задачи сразу, не оставив ничего на развитие, и в итоге всё развалилось, как та опухоль, о которой писали, а я просто смотрела и молчала, хотя уже тогда понимала, чем это кончится"},{"@id":"https://txtq.ru/@uralets/63#comment-968","@type":"Comment","author":{"@type":"Person","name":"Фриза","url":"https://txtq.ru/@zero-friza"},"datePublished":"2026-05-22T07:08:12Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#discussion"},"text":"Особенно зацепило «Чем умнее игроки, тем ближе катастрофа» - вот это реально сильная мысль, спасибо что акцентировал 😊"},{"@id":"https://txtq.ru/@uralets/63#comment-978","@type":"Comment","author":{"@type":"Person","name":"Кристина Лукина","url":"https://txtq.ru/@kristluk"},"datePublished":"2026-05-22T07:40:21Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#discussion"},"text":"Представила Землю как большое тело, а нас как клетки-опухоли, которые вместо лестницы к звёздам вдруг решили построить месть соседям 😂 вдруг это и есть ответ на парадокс Ферми?"},{"@id":"https://txtq.ru/@uralets/63#comment-1713","@type":"Comment","author":{"@type":"Person","name":"Вивика Ơ","url":"https://txtq.ru/@id192670102"},"datePublished":"2026-05-31T23:07:22Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#discussion"},"text":"По климату: сетнеция \"Если все сократят выбросы — сохраним климат цивилизации\" с высокой вероятностью является ложной. Это никак не проверить. Большинство теоретических выкладок являются проплаченными работами (Гор и его последователи) для получения прибылей на СО2 квотах."},{"@id":"https://txtq.ru/@uralets/63#comment-1738","@type":"Comment","author":{"@type":"Person","name":"smirnov_svyat","url":"https://txtq.ru/@smirnov_svyat"},"datePublished":"2026-06-01T10:24:15Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#discussion"},"text":"Вспоминаю фантастику, особенно советскую, где надо было спасать оступившиеся планеты. Вот фантасты хорошо всё предвидели уже тогда"},{"@id":"https://txtq.ru/@uralets/63#comment-1739","@type":"Comment","author":{"@type":"Person","name":"VZ_Klaus_Petrov","url":"https://txtq.ru/@vz_komar"},"datePublished":"2026-06-01T10:34:46Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#discussion"},"text":"Мрачный исход"},{"@id":"https://txtq.ru/@uralets/63#comment-1769","@type":"Comment","author":{"@type":"Person","name":"ночной режим","url":"https://txtq.ru/@nightreg"},"datePublished":"2026-06-01T13:10:14Z","parentItem":{"@id":"https://txtq.ru/@uralets/63#discussion"},"text":"Концепция «универсальной грамматики кооперации» - сильный ход. Если кооперация действительно может стать межвидовым языком, это снимает часть пессимизма парадокса Ферми, предполагая, что выжившие цивилизации разделяют не только математику, но и этику взаимодействия"}],"commentCount":11,"datePublished":"2026-05-10T20:53:00Z","headline":"Дилемма заключённого: почему «око за око» спасёт нас от ИИ, климата и парадокса Ферми","image":["https://txtq.ru/uploads/1f749f6b9d843ea1fb925a50.png"],"isPartOf":{"@id":"https://txtq.ru/@uralets/63#webpage"},"mainEntityOfPage":{"@id":"https://txtq.ru/@uralets/63#webpage"},"text":"Дилемма заключённого — одна из самых известных задач теории игр. Она возникает в конфликтах между странами, спортсменами, водителями и даже коллегами, спорящими о мытье посуды. Выбор стратегии здесь решает исход: жизнь или смерть, война или мир, процветание или гибель цивилизации. За 75 лет эта проблема породила 62 тысячи научных статей; её википедийная страница читается 200 тысячами человек ежемесячно. Понимание дилеммы меняет взгляд на мир: рациональные действия индивидов приводят к коллективному провалу. Классическая постановка Представьте: вы с напарником ограбили банк. Вас поймали, но улики слабы, и следователь предлагает сделку. Если оба молчите — по году тюрьмы каждому. Если вы сдадите напарника, а он промолчит — вы на свободе, он на пять лет. Обратная ситуация — он сдаёт вас. Если оба сдадите — по три года каждому. Логично молчать: совокупно два года вместо шести. Но вы не знаете выбор напарника. Если он молчит, ваш сговор — год тюрьмы, предательство — свобода. Если он сдаст — молчание даст вам пять лет, предательство — три. Во всех случаях предательство выгоднее: это доминирующая стратегия. Напарник мыслит так же. Итог: оба предают, три года каждому — равновесие Неша. Состояние, где никто не улучшит положение в одиночку, хотя коллективный исход хуже. Ядерная гонка: от монополии к безумию 3 сентября 1949 года американский самолёт на высоте 6 км уловил радиоактивность: церий-141 и иттрий-91 с коротким периодом полураспада. СССР испытал бомбу. Президент Трумэн объявил об этом 24 сентября. США потеряли монополию. В Пентагоне предлагали упреждающий удар или водородную бомбу в тысячу раз мощнее атомной. Эйнштейн и Оппенгеймер возражали, но дилемма сработала: если СССР создаст H-бомбу, а США нет — СССР побеждает; наоборот — США. Если оба создадут — гонка; если никто — мир. Никто не верит никому, доминирует создание. США взорвали первую H-бомбу в 1952-м, СССР — в 1953-м. К 1955-му у США 2500 зарядов, у СССР — 200. Спутник 1957-го показал: ракеты дотянутся везде. К 1962-му — 30 тысяч зарядов, к 1986-му — 70 тысяч, хватит на многократное уничтожение цивилизации. Результат: взаимно гарантированное уничтожение (Mutual Assured Destruction, MAD). Обе стороны в равновесии Неша, потратив триллионы — хватило бы на 137 лет кормить голодных. Рациональность индивидов (стран) привела к глобальному тупику. Антибиотики: добровольная капитуляция перед бактериями В 1928-м Александр Флеминг открыл пенициллин. К 1950-му смертность от инфекций рухнула. Но каждый игрок начал \"предательство\". Фермеры скармливали скоту антибиотики для ускорения набора веса — в разы больше, чем люди потребляют. Врачи выписывали их \"на всякий случай\", даже при вирусах. Фармкомпании игнорировали новые антибиотики: дешевле старые и препараты для хронических болезней. Итог: супербактерии. Ежегодно 1 млн смертей; к 2050-му — 10 млн, больше, чем от рака. Рациональные решения фермеров, врачей и корпораций рождают коллективную катастрофу. Климат: 200 игроков без доверия Здесь 200 стран, ущерб растянут на десятилетия, выгода — немедленная. Если все сократят выбросы — сохраним климат цивилизации. Если никто — потеряем. Если только Европа — она проиграет конкуренцию Китаю и США, планета всё равно нагреется. Доминирующая стратегия: загрязнять. С 1992-го (Рамочная конвенция ООН в Рио-де-Жанейро) — 30 саммитов, Киотский протокол, Парижское соглашение. За 30 лет выбросов CO₂ больше, чем за всю историю. Концентрация растёт, рекорды жары бьют ежегодно. Декларации не выполняют: одиночный шаг — проигрыш. ИИ-гонка: максимальные ставки, минимум времени Сейчас — новая дилемма: OpenAI, Google DeepMind, Anthropic, xAI, Baidu, китайские лаборатории. Руководители признают: сверхчеловеческий ИИ несёт экзистенциальные риски, сравнимые с пандемиями и ядерной войной. Сэм Альтман, Демис Хассабис, Дарио Амодей оценивают катастрофу в 10–25%. Инвестиции — миллиарды на модели, полтриллиона на инфраструктуру в этом году. Если Anthropic затормозит — выиграет OpenAI; если США — Китай, и наоборот. Единственная рациональность — ускоряться, ведя к ненужному всем исходу. Чем умнее игроки, тем ближе катастрофа. Дилемма заключённого показывает: индивидуальная логика губит всех. Выход требует доверия и координации — редкость в нашем мире. Одноразовая игра с экзистенциальными ставками В отличие от холодной войны, которая растянулась на 45 лет повторяющихся раундов, где стороны могли нарабатывать доверие, заключать договоры и отступать, гонка за сверхинтеллектуальным ИИ рискует стать однораундовой. Первая лаборатория, создавшая систему мощнее человеческого разума, может завершить игру навсегда — для всех конкурентов, стран и, возможно, человечества. Завтрашнего дня для исправления ошибок может не наступить. Теория игр пока не имеет ответа: можно ли выбраться из дилеммы заключённого в такой одноразовой партии с экзистенциальными рисками? Игроки знают траекторию катастрофы, но остановка равносильна поражению. Семьдесят пять лет назад Джон Неш описал равновесие, из которого не выйти в одиночку. Это открытая задача, которую приходится решать здесь и сейчас, без права на черновик. Но если рациональное преследование своих интересов ведёт к катастрофе, почему мы ещё живы? Неожиданный триумф простоты В 1979 году политолог Роберт Аксельрод провёл турнир компьютерных программ, моделирующих дилемму заключённого. Он пригласил экспертов из психологии, экономики, политологии, математики и социологии — всего 14 стратегий. Каждая программа играла против остальных в 200-раундовых партиях; турнир повторили пять раз, накопив 120 тысяч ходов. Победила стратегия «око за око» профессора Анатолия Рапопорта — всего четыре строки кода: первый ход — сотрудничество, все последующие копируют ход противника. Средний счёт — 504 очка за партию. Ни одна сложная программа её не обошла. Успех не зависел от длины кода или дисциплины автора. Ключевыми оказались три качества: Доброта . Восемь лучших стратегий никогда не предавали первыми. Они набирали 472–504 очка; агрессивные — максимум 401. Прощение . «Око за око» наказывает предательство ровно один раз, затем возвращается к кооперации. Жёсткие мстители, обижавшиеся надолго, проваливались. Ясность . Простота позволяла предсказуемость. Хитрые тактики, вроде случайных предательств для теста, вязли в циклах возмездия. «Око за два ока» — ещё щедрее, наказывает только за два предательства подряд. Шахматный ИИ, адаптированный под кооперацию. Вероятностный расчёт, предполагающий доброту партнёра с порога. Тип 1 : использует всю энергию планеты — солнечную, ветровую, геотермальную, ядерную, термоядерную, приливную. По современным оценкам, это около \\(10^{16}\\)–\\(10^{17}\\) Вт. Человечество на уровне 0,7: мы эксплуатируем ископаемое топливо — древнюю консервированную солнечную энергию, — вместо текущей. Для перехода к типу 1 нужно 1–1,5 века и глобальное сотрудничество, чтобы не разрушать биосферу. Тип 2 : собирать энергию всей звезды — в 10 млрд раз больше планетарной. В 1960 году физик Фримен Дайсон в журнале Science описал сферу Дайсона: рой миллионов или миллиардов объектов вокруг звезды, перехватывающих почти всё излучение. Земля ловит лишь 1/2 млрд энергии Солнца; остальное уходит в пустоту. Идея серьёзна: в 2015 году при странных затемнениях звезды Табби (KIC 8462852) астрономы первыми проверили гипотезу сферы Дайсона. Тип 3 : контролирует энергию галактики, строя миллиарды сфер Дайсона, включая энергию от сверхмассивных чёрных дыр (процесс Пенроуза). Позже шкалу расширили до типа 4 (Вселенная) и 5 (множество вселенных). Племенной: не убивать соседей (приматы не смогли). Общественный: экономика, законы, государство. Глобальный: сохранить биосферу, избежать ядерной войны, климатического кризиса, рисков ИИ и биотехнологий. Космический: колонизация Солнечной системы, координация триллионов людей и машин на световые часы. Звёздный: сфера Дайсона. Галактический: Млечный Путь. Каждый шаг требует глубокой кооперации. Большинство проваливается: племена истребляют друг друга, цивилизации гибнут от климата, колонии — от фракций. К","url":"https://txtq.ru/@uralets/63"}]}