Почему нейросеть ошиблась с флагом Беларуси?

Нейросеть галлюцинировала и объединила государственный флаг Беларуси с флагом оппозиции, создав неверное изображение.

Нейросеть ошиблась с флагом Беларуси: ошибка RT в журналистике

Время и Цивилизация

Тема: Ошибки нейросетей в журналистике · Генерация изображений и проверка фактов

Кратко

Журналисты RT использовали нейросеть для генерации изображения, но нейросеть создала неверный флаг Беларуси, смешав государственный и оппозиционный флаги. Это указывает на недостаточную проверку результатов ИИ редакцией.

Главное

Нейросеть может галлюцинировать и создавать неверные детали.
Журналистам необходимо проверять результаты ИИ на предмет соответствия реальности.
Ошибка с флагом Беларуси в изображении RT показывает отсутствие знаний предмета у редакции.
Использование ИИ в журналистике требует внимательности и критического мышления.
Даже пользователи не сразу заметили ошибку в сгенерированном изображении.

Цифровизация порождает не только возможности, но и проблемы. Думаю, сперва написать о том, что США приказали бизнесу закрыть доступ к наиболее продвинутым нейросетям для иностранцев, как в фокус внимания ворвался наш дорогой телеканал RT.

Дано, скрин новости:

Как часто сейчас у журналистов принято, фото к новости сгенерировал искусственным интеллектом. Посмотрите на фото и скажите, что в нем не так? Еще раз выделю фото:

Сама новость доступна по ссылке и, вероятно, в скором времени будет отредактирована. Но все скрины у меня сохранены) Обратите внимание на флаг. Ничего не напоминает? Правильно! Это не флаг Белоруссии! Флаг Белоруссии выглядит вот так:

А представленный журналистами даже не флаг белорусской оппозиции, который выглядит следующим образом:

Просто бело-красно-белый. Вместо этого мы видим, что? Сочетание двух флагов! Нейросеть буквально галлюцинировала и объединила флаг государства Белоруссия с флагом белорусской оппозиции, и выдала результат. После чего новость пошла на сайт издания.

Самое печальное

Фрагменты

Флаг Беларуси (государственный) и флаг белорусской оппозиции (бело-красно-белый) — нейросеть объединила их в один несуществующий флаг.

Чтобы избежать ошибок при использовании ИИ в журналистике, необходимо знать предмет (например, как выглядит флаг страны) и проверять результат нейросети.

При генерации изображений с помощью нейросети нужно знать, как выглядит объект, чтобы заметить неладное и попросить нейросеть перерисовать.

Ошибка с флагом Беларуси на изображении RT возникла из-за галлюцинации нейросети и отсутствия проверки со стороны журналистов.

Вопросы и ответы

Почему нейросеть ошиблась с флагом Беларуси?: Нейросеть галлюцинировала и объединила государственный флаг Беларуси с флагом оппозиции, создав неверное изображение.