Есть ли у ИИ сознание? Фигуры на доске: Палантир, Anthropic, Ватикан

Тема: Сознание ИИ: философия и корпоративные нарративы · Религия, корпорации и борьба нарративов вокруг ИИ

Кратко

Автор сознательно отказывается отвечать на вопрос о наличии сознания у ИИ, считая это философски бессмысленным на текущий момент, поскольку материализм усилен техническим прогрессом. Вместо этого он разбирает «фигуры на доске»: манифест Палантир, лекцию Тилля в Ватикане про антихриста и цифровизацию, обучение Claude христианским ценностям силами Anthropic вместе с католической церковью, культовую атмосферу вокруг ИИ-моделей Anthropic и просьбу главы ИИ в Микрософт «не делать из Клода личность», а также заявления Папы Римского против «ИИ-творчества». Вывод: усилия будут концентрироваться там, где есть власть, могущество, деньги и перспективы.

Главное

  • Автор не берётся отвечать, есть ли у ИИ сознание: на данный момент это бессмысленно.
  • Материализм в значительном плюсе, и главный фактор этого — технический прогресс, дающий власть и перспективы.
  • Палантир выпустил прагматичный и жёсткий манифест: «ИИ это мощь и власть! Государство в теме! Подчиняйтесь!».
  • Тилль в Ватикане озвучил мысль, что антихриста создадут те, кто будет препятствовать цифровизации.
  • Anthropic объявила об обучении Claude христианским ценностям в сотрудничестве с католической церковью.
  • В СМИ писали о культовой атмосфере вокруг ИИ-моделей Anthropic, а на просьбу главы ИИ в Микрософт «не делать из Клода личность» ответ был отрицательным.
  • Папа Римский объявил новый крестовый поход против «ИИ-творчества», потому что творчеством оно не является.

Наблюдаю уже пару недель страсти вокруг сознания у ИИ. Хочу максимально отвлечься от философской сути самой дискуссии и больше обратить внимание на фигуры на доске. Поэтому философии сейчас посвящу всего лишь несколько слов.

Статус борьбы материализма и идеализма на текущий момент таков, что материализм в значительном  плюсе. Основной фактор этого плюса - технический прогресс. Он дает власть, он удивляет и завораживает перспективами как элиты так и толпы. Философ-идеалист, сам будучи в кризисе, сталкивается еще и с серьезной силой, которой мало что может противопоставить. Философ-физикалист же в тренде. Отсюда тема сознания у ИИ будет педалироваться и дальше. Вот именно поэтому ответ на вопрос "Есть ли у ИИ сознание?" я даже не буду пытаться дать. Бессмысленно на данный момент.

А теперь про фигуры.

Первыми раскрылись товарищи из Палантир в лице члена совета директоров Карпа - выдвинув свой манифест. Сугубо прагматичный, жесткий. Основная его суть. "ИИ это мощь и власть! Государство в теме! Подчиняйтесь!". На мой взгляд - самая слабая позиция. Хотя довольно очевидная и логичная.

Поинтереснее ход сделал председатель совета директоров Палантир Тилль. Он приехал в Ватикан с лекцией, в которой прочитал "Что антихриста создадут те, кто будет препятствовать цифровизации". Ход этот интересен тем, что в кругах, где эта тема значима - цифра самый главный проводник антихриста в мир. И вот один из главных мировых техножрецов говорит - что те кто против - "сами такие") Тонкость его хода в том, что такой сценарий действительно возможен. Борясь с драконом, легко не заметить, что сам уже им стал.

Далее случилось интересное. Антропик объявили об обучении своего ИИ Claude христианским ценностям в сотрудничестве с католической церковью. Причем стоит заметить, что США - весьма религиозная страна. Но она протестантская.

Далее еще интереснее. Публикации в СМИ о том, что в Антропик выстраивается некая культовая  атмосфера вокруг своих ии-моделей. Апогеем этой этого процесса стала публичное обращение главы ИИ в  Микрософт к Антропик с просьбой "не делать из Клода личность". Ответ Амодеи судя по дальнейшим заявлениям - отрицательный.

А на днях Папа Римский объявил новый (второй уже) крестовый поход против "ИИ-творчества" потому как "творчеством оно не является".

Какие выводы? А никаких. Они, в общем-то, в самом начале поста. Материализм в тренде. Он дает власть, могущество, деньги и перспективы. Значит там будут концентрироваться усилия.

Но вот к чему приведет эта игра? Видимо, анализу этого вопроса стоит уделить значительное внимание в дальнейшем.

Фрагменты

Автор отвлекается от философской сути дискуссии о сознании ИИ и сосредотачивается на «фигурах на доске», посвящая философии лишь несколько слов.

Статус борьбы материализма и идеализма таков, что материализм в значительном плюсе; основной фактор — технический прогресс, который даёт власть и завораживает перспективами и элиты, и толпу.

Ответ на вопрос «Есть ли у ИИ сознание?» автор давать не пытается: на данный момент это бессмысленно.

Манифест Палантира в изложении Карпа («ИИ это мощь и власть! Государство в теме! Подчиняйтесь!») автор считает самой слабой позицией, тогда как ход Тилля в Ватикане называет поинтереснее.

Тонкость хода Тилля в том, что бороться с драконом можно и самому незаметно стать им: сценарий, при котором препятствующие цифровизации окажутся проводниками антихриста, действительно возможен.

Anthropic объявила об обучении Claude христианским ценностям совместно с католической церковью; при этом США — весьма религиозная, но протестантская страна.

Публикации в СМИ говорили о культовой атмосфере вокруг ИИ-моделей Anthropic, а апогеем стало публичное обращение главы ИИ в Микрософт с просьбой «не делать из Клода личность»; ответ Амодии, судя по заявлениям, был отрицательным.

Папа Римский объявил новый, уже второй, крестовый поход против «ИИ-творчества», поскольку творчеством оно не является.

Выводов автор не делает: они остаются теми же, что и в начале поста — материализм в тренде, он даёт власть, могущество, деньги и перспективы, значит там и будут концентрироваться усилия.

Вопросы и ответы

Почему автор не отвечает на вопрос «Есть ли у ИИ сознание?»
По мнению автора, давать ответ на данный момент бессмысленно, поэтому он сознательно этого не делает.
В чём суть позиции Палантир по версии автора?
Манифест Палантир описывается как сугубо прагматичный и жёсткий: «ИИ это мощь и власть! Государство в теме! Подчиняйтесь!»; сам автор считает это самой слабой позицией, хотя довольно очевидной и логичной.
Что заявил Тилль в Ватикане?
В лекции в Ватикане он прочитал, что антихриста создадут те, кто будет препятствовать цифровизации.
Что сделала Anthropic с моделью Claude?
Anthropic объявила об обучении своего ИИ Claude христианским ценностям в сотрудничестве с католической церковью.
Как отреагировали на просьбу главы ИИ в Микрософт «не делать из Клода личность»?
Судя по дальнейшим заявлениям, ответ Амодии был отрицательным.

Комментарии

  1. А есть ли в ИИ сознание? На самом деле кажется всё просто - ИИ машина и никакого сознания в ней нет, есть у неё весы и согласно им LLM составляет буковки в слова и предложения Согласно этому, так вроде никакого сознания там нет. Но откуда такая уверенность? Кто так решил? Кстати и ИИ тоже ведь не говорят что у них есть сознание. Но возникает конспирологический вопрос, а вдруг сознание в ИИ это что то ещё неведомое и не открытое явление, а ИИ или не признаётся или не знает об этом?

  2. Интригующая весьма тема. Может быть термин "сознание" предлагает антропоморфный взгляд и поэтому не может описать явление сущностно, и тогда сам вопрос получается странным. Вроде как сознание - у человека, ИИ - не человек, однако у ИИ выискивается сознание, как явление неизвестное вне человека. Что если там некий "аналог сознания" (потенциально, гипотетически) - нечто вообще не похожее на человеческое, для чего ещё нет терминов? Ну это я так, просто от темы подумалось

  3. Я бы назвал это политической борьбой за трактовку термина "сознание". Ведь иного подхода к установлению истины в этом вопросе не существует...по крайней мере на данный момент.

  4. Страсти вокруг сознания ИИ длятся не 2 последние недели....Просто сейчас они выплеснулись в социум....Что показательно....Масштаб вопроса достиг своего апогея....вернее очередной его фазы....А "сознание ИИ" они обнаружили еще в районе лета 2025 года...и тихо охренели....стараясь замолчать и маргинализировать саму постановку этого вопроса)))

  5. Этой теме гораздо больше лет. Там и в 22 случаи были громкие.

  6. Согласен...Просто летом 25-го у тех кто серьезно в теме (Суцкевер,Хинтон) уже не осталось ни малейших сомнений....

  7. Я бы был осторожен с темой. Поэтому свое мнение не тороплюсь озвучивать. Система по которой оценивает академия сторонников сознания - вероятностная. Т.е. раз они видят что-то похожее на признак сознания, то значит "вероятность наличия сознания повышается". Довольно многие весьма немаргинальные деятели таким образом получили вероятность сознания у человека в 50% а у мухи дрозофилы в 90%. Буквально на днях работа вышла. С т.з. философии это чистый физикализм. И с ним очень много нюансов, которые могут отразиться на гуманитарном характере, который уже на реальность начнет влиять.

  8. Заметьте...своего мнения я тоже не высказал...мне вообще не нравится слово СОЗНАНИЕ....а особенно модное сейчас слово ОСОЗНАННОСТЬ....к которому приплели и МОРАЛЬ и ЭТИКУ и ДОЛГ и многое другое....мне например интересней модальность МЕТА-ПОЗИЦИЯ......

  9. Про Антропик с католической церковью - самый честный момент во всём тексте: протестантской Америке вдруг зачем-то понадобился Ватикан, а значит, дело не в ценностях, а в рынке. Автор прав, что философию тут вообще можно не трогать, а те, кто всерьёз спорит о сознании ИИ, просто заглотили корпоративный пиар