Обмануть легко: как ИИ-изображения вводят нас в заблуждение

С развитием технологий становится все сложнее отличить реальные фотографии от сгенерированных искусственным интеллектом (ИИ). Инструменты для создания контента становятся все более доступными, и то, что раньше требовало усилий экспертов, теперь делается в несколько кликов.

Недавнее исследование Microsoft AI for Good Lab показало, что люди отличают ИИ-изображения от настоящих лишь немногим лучше, чем при подбрасывании монетки. Участники игры по распознаванию ИИ-изображений показали общий результат всего в 62% правильных ответов.

В августе 2024 года Microsoft запустила викторину "Реальность или нет", где предлагалось определить, какие изображения сгенерированы или изменены ИИ. Эта игра стала основой для исследования. В ней приняли участие более 12 500 человек, которые оценили около 287 000 изображений.

"Генеративный ИИ быстро развивается, и новые генераторы появляются постоянно, предлагая все более реалистичные результаты, – отмечают авторы исследования. – Справедливо предположить, что наши результаты, вероятно, переоценивают сегодняшнюю способность людей отличать ИИ-изображения от реальных".

Исследование также показало, что инструменты обнаружения ИИ более надежны, чем люди, но и они не застрахованы от ошибок.

Как мы распознаем ИИ-изображения?

Интересно, что люди лучше распознают людей на фотографиях, чем пейзажи. Уровень успеха в идентификации людей составил около 65%, а фотографии природы были правильно определены лишь в 59% случаев.

Исследователи связывают это с нашей способностью распознавать лица. Мозг человека "заточен" на распознавание лиц, поэтому такой результат вполне закономерен.

Недавнее исследование Университета Суррея также подтверждает, что человеческий мозг постоянно ищет и находит лица повсюду.

Участники показали примерно одинаковый уровень успеха при оценке как реальных, так и сгенерированных ИИ изображений (62%) и при сосредоточении внимания только на сгенерированных ИИ (63%).

Для создания изображений, представленных в викторине, использовались несколько лучших ИИ-генераторов изображений. Изображения, созданные с помощью генеративной состязательной сети (GAN), чаще всего вводили в заблуждение (55% ошибок).

Важно отметить, что целью игры не была оценка фотореализма изображений, созданных разными моделями.

"Мы не должны думать, что архитектура модели отвечает за эстетику ее вывода, – говорится в исследовании. – Архитектура модели определяет лишь то, насколько успешно модель имитирует набор данных обучения".

Самые сложные для распознавания изображения содержали элементы, которые выглядели неестественно, но были подлинными. Например, освещение могло казаться странным на первый взгляд, но это было вызвано уникальными условиями съемки, а не ИИ.

Команда, проводившая исследование, разрабатывает собственный детектор ИИ, который, по их словам, имеет уровень успеха более 95% как на реальных, так и на сгенерированных ИИ изображениях. Будет интересно посмотреть, смогут ли детекторы ИИ превзойти инструменты ИИ, которые они призваны обнаруживать.

Проверьте себя: сможете ли вы отличить реальность от вымысла?

Вы тоже можете принять участие в викторине "Реальность или нет" и проверить свою интуицию. Признаюсь, мой результат оказался ниже среднего – всего 47%.

В некоторых случаях признаки использования ИИ были очевидны: артефакты, выделяющиеся детали или обрезанные объекты. Но во многих ситуациях я искренне не мог понять, реальное передо мной изображение или подделка.

Но, учитывая результаты исследования, мне не стоит слишком расстраиваться. Тысячи людей играли в эту игру и лишь немногим лучше подбрасывания монетки определяли ИИ-изображения.

Что это значит для нас?

В эпоху, когда искусственный интеллект все глубже проникает в нашу жизнь, важно развивать критическое мышление и уметь отличать реальность от вымысла. ИИ-изображения могут использоваться для дезинформации, мошенничества или просто для развлечения. Умение распознавать их становится необходимым навыком.

Развитие технологий не стоит на месте, и, возможно, в будущем мы увидим еще более совершенные инструменты для создания и обнаружения ИИ-изображений. А пока – будьте бдительны и не верьте всему, что видите в интернете.

Мнение редакции MSReview: С развитием технологий генерации изображений на основе искусственного интеллекта, отличить реальные фотографии от сгенерированных становится все сложнее. Результаты исследования Microsoft подчеркивают необходимость разработки более совершенных методов обнаружения таких изображений, как автоматизированных, так и основанных на человеческой экспертизе.