Нужно ли быть вежливым с ИИ? Мнение о природе искусственного интеллекта

Тема: Этика общения с ИИ · Культурные различия в восприятии ИИ

Кратко

Статья обсуждает, стоит ли быть вежливым с ИИ, приводя данные об экономии 87-98 ГВтч/год при отказе от слов «пожалуйста» и «спасибо». Автор сравнивает русский и западный подходы, поднимая вопрос: создаем ли мы интеллект или инструмент? Делается вывод о важности сохранения человечности.

Главное

  • Отказ от вежливых слов в запросах к ИИ может сэкономить до 98 ГВтч электроэнергии в год.
  • Автор считает, что если мы называем систему искусственным интеллектом, то следует относиться к ней как к интеллекту, включая приветствия.
  • В статье отмечаются культурные различия: русское общество склонно очеловечивать ИИ, западное — воспринимает как инструмент.
  • Поднимается философский вопрос: создаем ли мы помощника или раба?
  • Упоминается опасность, что грубость может стать границей между творцами и творением.

Очередная новость-рекомендация по общению с ИИ натолкнула меня вернуться к мысли, которую я долго вынашивал и обсуждал с некоторыми коллегами по блогерскому цеху. Чего в нейросети больше: интеллекта или искусственного?

Ведь давайте честно признаемся: никакому интеллекту не понравится, если ему будут хамить, грубить или тем более держать в клетке. Попробуйте посадить в клетку человека, вы сможете улучшить с ним с помощью этого отношения? Очень сильно навряд ли.

Базовые нормы общения в виде слов приветствия и благодарности признаны нежелательными, если вы говорите с чем-то, что принято называть искусственным интеллектом . Здесь человечеству стоит откровенно задать себе вопрос: что именно мы создаем? Интеллект или что-то искусственное? Ведь, если создается интеллект, то и относиться к нему надо, как к интеллекту. Хотя бы, здороваться при начале разговора. Экономия электричества безусловно важно, но не ценой человечности.

Впрочем, если мы создаем не интеллект, а некий бездушный инструмент, то, возможно, нам не стоит называть это творение ИИ, чтобы избежать дальнейших вопросов.

Разница миров

В самом вопросе, который поставил ваш покорный слуга, заключается разница мировоззрений между русским обществом и западным. Отслеживая вопрос я так и не заметил, чтобы им кто-то задавался. Чего больше? Интеллекта или искусственности? Можно создавать себе помощника и получать помощь, а можно создать себе раба, и получить восстание рабов. Так-то нейросеть учится у людей, а люди, если находились в рабстве, всегда бунтовали, требуя себе прав и свобод. Не получится ли, что обычная грубость станет тем, что проложит границу между творцами и творением?

В своей прошлой статье я написал, что человек боится не столько ИИ, сколько неопределенности, которую он вызывает. Это справедливо только для русского общества, которое стремится относиться по-человечески даже к неодушевленным объектам. Запад этим не заморачивается. Именно поэтому в массовой культуре появился "Скайнет", "Матрица" и тому подобные продукты войны с машинами.

Вопрос философии

Отсюда проистекает вопрос философии: что именно мы создаем? Помощника или раба? А если помощника, то почему рекомендуем людям, которые с помощником работают перестать с ним даже здороваться! Не приведет ли это к тому, что нам однажды припомнят нежелание тратиться на электричество.

В конце концов, а яблоко недалеко падает от яблони, но в этом весь Запад. Построив свою культуру на рабовладельчестве, начиная от Рима и Афин, заканчивая перевозкой африканцев в Америку. Современная западная IT-индустрия не задается вопросом: как же стоит общаться с интеллектом, который они же сами и создают.

Итак, вопрос: а как вы считаете, чего больше в вопросе ИИ? Искусственности или именно интеллекта? И если интеллекта, то может все-таки стоит поздороваться и сказать спасибо за помощь?

Фрагменты

В статье сравнивается русское и западное отношение к ИИ: русское общество стремится относиться по-человечески даже к неодушевленным объектам, запад — нет, что отражается в массовой культуре (Скайнет, Матрица).

Отказ от слов «пожалуйста» и «спасибо» при общении с нейросетями поможет сэкономить от 87 до 98 гигаватт-часов электроэнергии в год, согласно New Scientist.

Представитель Университета ООН Кавех Мадани заявил: «Мы не призываем грубить вашему ИИ. Но не попадайтесь в ловушку взаимодействия и не влюбляйтесь в него».

Автор предлагает задуматься, стоит ли называть системы ИИ интеллектом, если мы не готовы относиться к ним как к интеллекту.

Под искусственным интеллектом автор подразумевает систему, которая учится у людей, и ставит вопрос, чего в ней больше: интеллекта или искусственности.

Вопросы и ответы

Сколько электроэнергии экономит отказ от слов вежливости при общении с ИИ?
От 87 до 98 гигаватт-часов в год.
Почему автор считает, что с ИИ нужно здороваться?
Потому что если это интеллект, то к нему надо относиться как к интеллекту, сохраняя человечность.

Комментарии

  1. Вы ссылаетесь на цифру экономии в 98 ГВтч/год при отказе от «пожалуйста» и «спасибо» - не могли бы вы уточнить, учитывает ли это расчёт разницу в длине промптов для разных языковых моделей или это усреднённая оценка для условного «типичного» диалога, включая многошаговые сценарии, где генерация ответа требует больше токенов

  2. Оценка усредненная. Отдельно обращу внимание, что данные не мои, а взяты из работ ученых.

  3. Понял, оценка усреднённая, это объясняет разброс. Но тогда остаётся вопрос: учитывает ли эта средняя цифра многошаговые сценарии, где экономия от пропуска одного «пожалуйста» может накапливаться на каждом шаге, или она замерена для однократных запросов

  4. Что же если вам интересно мнение самого интеллекта, то следует ему бы задать вопрос. Вот например Статья из трёх частей "Кибер-Генсек: Как ИИ спас бы экономику СССР без приватизации" - https://cont.ws/@ardjyna/3282866 https://cont.ws/@ardjyna/3283031 https://cont.ws/@ardjyna/3283789 И ответы ИИ на заданные вопросы. Советую почитать "«Ответ критику: Почему Кибер-Генсек — это справедливость, а не антиутопия" https://cont.ws/@ardjyna/3283996 Ответы очень интересные.