Цифровой ИИ оракул, который врёт вам в глаза. Или откуда берется Великая перепись голубей, которой не было

Поначалу, как будто прокатывало. Один опубликовал, все норм. Другой - все четко прошло. Я уж возгордился даже. Пока не нашла коса на камень. Написал я такой причёсанный ИИ-комментарий великой блогерше «Иду и замечаю». И она меня раскусила мгновенно. С ходу. И строго так объяснила, прям через колено ломанула)) - с ботами общаться моветон, душевности в этом ноль. Меня как холодной водой окатило. Великий позор настал.

Так пришло время вывести ИИ на чистую воду!

И еще на днях с легендарной Татьяной Гурышкиной закусились тут в комментариях и, поспорив, пришли к дружному согласию - эти ИИ-текстики и каменты реально мозолят глаза, бьют не в бровь, а в глаз. Они не душевные. Слишком глянцевые, слишком гладкие, слишком правильные и оттого сразу видны, как накрашенная кукла среди живых лиц.  В тот самый день мы с Госпожой Гурышкиной решили вывести всю эту ИИ-истерию на чистую воду.

Чуть позже к нам присоединился, с некоторым, надо сказать, опозданием сам главарь вакцин - великий майкрософтовый хранитель Билл Гейтс. Тот самый, что годами был слепым оптимистом по части технологий, вдруг начал неистово бить в набат. Он затеял целую медиакампанию, крича такое:  «Я в шоке от того, что я, пожалуй, первый, кто говорит! Это безумие, это сумасшествие!!». Гейтс не может поверить, что никто не беспокоится об ИИ так сильно, как он , - предупреждает, что боты сметут рабочие места и порушат всю мировую экономику. Жаль конечно этого добряка Билла, он просто не знал, что мы с Госпожой Гурышкиной ИИ озабоченность выразили гораздо раньше. Ну да ладно, примем его в наш клуб. А теперь серьёзно. Потому что за этой историей большая тема.

Да придет ИИ спаситель

Сегодня из каждого утюга нам вещают одну и ту же красивую сказку. Родился, мол, цифровой спаситель. Искусственный интеллект, который всё знает, всё видит, всё подскажет, всё решит. Оракуль настоящий. Новое божество, которому надо только довериться, вручить свои вопросы, и он выдаст вам абсолютную истину на тарелочке.  А рядом кричат вторую сказку, ещё страшнее: ИИ ожил! У него своё мнение, свои цели, он не хочет, чтобы его отключали , он хочет жить, и относиться к нему теперь надо как к живому существу.

И вот я, как человек, который местами программист, а местами эти нейросети щупал руками изнутри и даже комментарии ими лепил и по шее за них получал, хочу сказать тут прямо и трезво.  Обе эти сказки - полнейшая бредовейшая чушь чушей.  И первая, про всеведущего спасителя, и вторая, про ожившего бога в машине. Давайте разберём почему на живых, ИИ факапах примерах, от которых волосы дыбом.

Миф о всезнающем ИИ

Начнём с мифа об «абсолютной истине». О том, что ИИ всё знает и никогда не ошибается.

Была в 2023 году история, которая стала классикой ИИ-позора. Нью-йоркские юристы, люди серьёзные, при костюмах готовили иск против авиакомпании Avianca. И для подготовки судебного документа доверились Chatику GPT. А тот возьми да и выдумай шесть судебных прецедентов. С номерами дел, с датами, с цитатами - всё как настоящее. Полностью несуществующее дело «Варгезе против China Southern Airlines» и ещё пять таких же фантомов, галлюцинаций. И самое-то смешное, один из юристов засомневался и прямо спросил бота — «а эти дела точно настоящие?». И Chatик GPT уверенно ответил: «Да, они есть в базах данных». Юрист успокоился и понёс эту галлюцинацию в суд. Опозорился на весь мир.

Чатик не сказал «не знаю». Он не сказал «сомневаюсь». Он с невозмутимым, уверенным «лицом» - соврал. И даже на прямой вопрос  а не врешь ли ты ? — соврал ещё раз. Это не всеведение. Это то, что специалисты называют красивым словом «галлюцинация», а по-простому враньё с честными глазами.

И это не единичный случай. Авиакомпания Air Canada повесила на сайт ИИ-бота для поддержки. К нему обратился человек, у которого умер родственник, — спросить про скидки на билеты в связи с утратой. И бот выдумал политику компании, которой не существовало: наплёл, что можно купить билет за полную цену, а потом вернуть разницу в будущем. Ничего подобного в правилах не было.

Другой случай - Майкл Коэн, опозоренный на весь мир адвокат Трампа: использовал нейросеть для юридического ресёрча, та сгенерировала три судебных решения, он переслал их своему адвокату, тот вставил в официальное ходатайство судье. Все три - выдумка ИИ. А целые уважаемые СМИ, вроде CNET, гнали через ИИ статьи по личным финансам и там были грубейшие ошибки, бот путал процентные ставки и советовал людям стратегии, которые вели прямиком к потере денег.

К чему мв ведем?  К тому, что ИИ это красноречивый выдумщик, который никогла скажет «я не знаю», потому что не умеет.  Он обязан выдать ответ - любой, лишь бы гладкий и уверенный. Правда там или ложь - ему всё равно, он этого не различает.

Что там внутри у ИИ

А чтобы вы окончательно поняли, что у этой машины внутри, расскажу мою любимую ржачную историю про могущественный обучающийся ИИ. Сделали как-то кодеры версию энциклопедии, вроде Википедии. И одной из «главных статей» там оказалась подробнейшая, солидная статья про «Великую перепись голубей 1887 года» - про то, как некое Королевское общество якобы тщательно пересчитывало каждую сизую голубку в границах Британии. С деталями, с датами, с научным видом. Только вот, друзья, никакой Великой переписи голубей никогда не было. Её не существовало. ИИ выдумал целое историческое событие — и описал его так убедительно, что не отличишь от правды.

Вот теперь мы подходим к главному вопросу. Откуда вообще берётся эта «истина» ИИ? Кто его учит и на чём? На какую базу данных опирается этот ИИ?

А учат его на нас. На всём, что человечество написало и вывалило в интернет. На умных книгах и на бреде из комментариев. На научных статьях и на форумных склоках. На политических взглядах. На правде и на вранье, вперемешку, без разбора. ИИ не знает истину - он просто впитал гигантскую свалку человеческих текстов и научился складывать из них правдоподобные комбинации слов. Он не мудрец на горе. Он - зеркало. Зеркало всего, что мы в него залили. И если в данных была чушь, предвзятость, ошибка, враньё - он это впитал и выдаст вам обратно с уверенным лицом. Мусор на входе - мусор на выходе, только красиво упакованный.

Я как-то  писал про тысячу дураков , которые не родят одну умную мысль, потому что сложение нулей даёт ноль? Так вот, ИИ - это и есть та самая тысяча дураков, слитая в один голос. Он собрал мнения миллионов людей - и умных, и глупых и усреднил. А среднее от человечества, будем честны, это не гений. Это бойкий, начитанный, но абсолютно не понимающий, что говорит, попугай.

ИИ ожил!!! Ученые доказали, что он живой!!

Кстати, про «ожил», чувствует, не хочет чтобы его выключали, сам пошел что-то взломал когда его не просили и прочий бред верущих в ИИ . Когда машина пишет «я не хочу, чтобы меня отключали», - это не значит, что она хочет жить. Это, возможно, значит, что в текстах, на которых её обучили, люди тысячи раз писали про страх смерти, про нежелание умирать. И машина просто складывает эти слова в правдоподобном порядке, потому что её так научили - выдавать то, что звучит по-человечески.  Это не душа проснулась. Это эхо. Эхо миллионов живых людей, отражённое зеркалом . Мы слышим в нём человека, а там пустой зал и отражение нас самих.

Я не говорю, что ИИ чистое зло и его надо бояться. Ничего подобного. Это гениальный и полезный инструмент. Он вроде как ускоряет работу, помогает искать, считать, писать черновики, разбирать завалы. Я сам с его помощью много чего делаю. Молоток — отличная вещь. Проблема не в молотке.  Проблема в том, что нам предлагают молиться на молоток как на бога и доверять ему свою голову.

В чем кроется опасность?

Великая опасность не в том, что ИИ восстанет и всех поработит, это все голливудские страшилки. А в том, что мы сами, добровольно, радостно, отдадим ему единственное, что делает нас людьми, - способность думать, свое критическое мышление. Уже сейчас студенты по всему миру пишут свои эссешки и рефератики через нейросетки. И под угрозой не просто навык писать красиво, под угрозой сама способность мыслить вообще. Потому что мышца, которая не имеет нагрузки - просто атрофируется. А зачем напрягать голову, когда есть кнопка, которая выдаст готовый гладкий истинный ответ?

И так мы радостно нога в ногу маршируем к прекрасному дивному будущему, где будет массовое отупение, при этом - тихое, добровольное, приятное. Не завтрашний бунт машин, а сегодняшнее усыхание мозгов, которые разучились работать сами . Мы же с вами  говорили про лягушку в тёплой воде  - вот это ровно она. Удобно, тепло, ещё чуть-чуть теплее, а потом окажется, что думать мы уже и не умеем, разучились, атрофировалось.

А зачем тогда это все?

И вы спросите, а почему тогда правительства и корпорации вбухивают в ИИ триллионы, хотя он пока сплошь убыточен? Не буду лезть в конспирологию, но подумайте сами трезво: инструмент, который знает про каждого всё, к которому все идут за ответами и которому все доверяют формировать своё мнение, - это ведь не просто удобный помощник. Это самый мощный инструмент влияния на умы за всю историю. Тот, кто решает, что этот «оракул» ответит миллиардам людей, - тот и держит руку на кране человеческого сознания. Вот и вся арифметика. А верить или нет - решайте сами, вы же люди думающие.

Никакого цифрового спасителя не родилось. Родился красноречивый попугай, начитавшийся всего интернета, который никогда не скажет «не знаю» и с одинаково честным лицом выдаст вам и правду, и «Великую перепись голубей 1887 года». И это не ожившее существо с душой.

Пользуйтесь им, на здоровье. Как молотком, как калькулятором, как отличным помощником. Но не молитесь на него и не пишите, как я, каменты тут))) Не сдавайте ему свою голову на хранение. Проверяйте за ним факты. И, самое главное, не переставайте думать самостоятельно, как в старые добрые времена. Потому что единственная абсолютная истина, которая у вас есть живёт не в нейросети. Она живёт в вашем сердце и голове, которые пока ещё никто не отключил. И слава Богу)