Сохранить субъектность: как остаться причиной, а не следствием в эпоху ИИ

Тема: Субъектность человека в эпоху искусственного интеллекта · AGI как юридический, а не технический рубеж и выбор стратегии отношения к ИИ

Кратко

Автор не спешит верить ии-вендорам в том, что «AGI достигнут»: он видит в этом прежде всего юридический момент в отношениях Microsoft и OpenAI. Главный вопрос текста — как сохранять субъектность (способность быть причиной, а не следствием) среди технологий, которые её отнимают. Индивидуальное решение автор считает сомнительным, ставку делает на общественный договор, а запрет ИИ и луддизм — на проигрышные стратегии, предлагая относиться к ИИ проактивно, как к возможности.

Главное

  • «Достижение AGI» автор трактует как юридический момент между Microsoft и OpenAI, а не как технический прорыв
  • Субъектность — это способ быть причиной, а не следствием, быть источником воли
  • «Вооружённый» ИИ человек субъектнее по отношению к «невооружённому», но уступает субъектность владельцам ИИ-мощностей
  • Индивидуальное решение вопроса собственной субъектности автор считает очень сомнительным: личность слаба перед мощью технологий и капиталов
  • Запретить ИИ нельзя — преимущество получат те, кто не запретит; полное разрешение даёт безграничную власть «владельцам железа»
  • Луддизм — проигрышная стратегия, кроме радикально изолированных сообществ
  • К ИИ стоит относиться как к возможности, а не проблеме, и формировать новый подход к коммуникациям — проактивно

Вы наверное заметили по лентам новостей, что "AGI достигнут", и мы в сингулярности. Я бы не торопился верить ии-вендорам. Ведь "достижение AGI" это прежде всего юридический момент между Microsotf и OpenAI, после которого OpenAI выходит из под контроля Microsoft. Они изначально по какой-то причине договаривались именно так.

Но пост не об этом.

Как субъектность сохранять среди технологий, основная цель которых - тебя ее лишить? Что вообще такое субъектность?

Это способ быть причиной, а не следствием, быть носителем и источником воли. Он напрямую связан со способностями личности, ее актуальностью. Объект - это же это то, на что воля распространяется. И в ии-контексте отношения субъекта и объекта весьма непросты.

"Вооруженный" ии человек становится более субъектен по отношению к "невооруженному". Но сам при этом уступает свою субъектность владельцам ии-мощностей.

Возможно ли индивидуальное решение вопроса собственной субъектности? Очень сомнительно. Отдельная личность очень слаба перед мощью технологий и капиталов.

Остается "общественный договор". А ведь там еще и "классическая" политика имеет свои расклады.

Мы не можем "запретить ии". Это даст преимущество тем, кто не запретит, и такие обязательно найдутся. Если же мы "все разрешим", то опять же - это практически безграничная власть "владельцев железа". Исторически из подобного ничего хорошего не получалось. Хотя подобного исторически в общем-то и не было)))

В общем, пока вопросов больше чем ответов. Но что можно сказать наверняка на данный момент? Относиться к ии, как к возможности, а не проблеме. И формировать новый подход к коммуникациям. Т.е. проактивно. Луддизм - проигрышная стратегия по вышеописанным причинам. За исключением разве что самых радикальных случаев, которые живут глубоко в дали и независимости от цивилизации. Они, вероятно, в выигрыше при любом раскладе. Но это явно не для всех путь.

Фрагменты

Субъектность — это способ быть причиной, а не следствием, быть носителем и источником воли; она напрямую связана со способностями личности и её актуальностью.

Объект — это то, на что воля распространяется; в ИИ-контексте отношения субъекта и объекта весьма непросты.

«Вооружённый» ИИ человек становится более субъектен по отношению к «невооружённому», но сам при этом уступает свою субъектность владельцам ИИ-мощностей.

Индивидуальное решение вопроса собственной субъектности очень сомнительно: отдельная личность слаба перед мощью технологий и капиталов, остаётся «общественный договор», где свои расклады имеет и «классическая» политика.

Запретить ИИ нельзя: это даст преимущество тем, кто не запретит, и такие обязательно найдутся; полное разрешение — почти безграничная власть «владельцев железа».

Относиться к ИИ как к возможности, а не проблеме, и формировать новый подход к коммуникациям — то есть проактивно.

Луддизм — проигрышная стратегия, за исключением самых радикальных случаев, живущих глубоко в дали и независимости от цивилизации: они вероятно в выигрыше при любом раскладе, но это явно не для всех путь.

Заявления «AGI достигнут» автор не торопится принимать: он видит в этом прежде всего юридический момент между Microsoft и OpenAI, после которого OpenAI выходит из-под контроля Microsoft.

Вопросы и ответы

Что автор понимает под субъектностью?
Способ быть причиной, а не следствием, быть носителем и источником воли; субъектность напрямую связана со способностями личности и её актуальностью. Объект, напротив, — то, на что воля распространяется.
Почему запрет ИИ автор считает бесперспективным?
Запрет даст преимущество тем, кто не запретит, и такие обязательно найдутся; а полное разрешение означает практически безграничную власть «владельцев железа».
Почему луддизм — проигрышная стратегия?
По тем же причинам, что и запрет ИИ; исключение — лишь самые радикальные случаи, живущие далеко и независимо от цивилизации, но это явно не для всех путь.
Возможно ли индивидуальное решение вопроса собственной субъектности?
Автор считает это очень сомнительным: отдельная личность очень слаба перед мощью технологий и капиталов, поэтому остаётся «общественный договор».