Как распознать видео, созданное ИИ

Генеративный ИИ быстро заполняет сеть, и пока мы взвешиваем последствия для образования, энергетики и человеческого творчества, становится все труднее доверять всему, что появляется в Интернете. Это реально или создано искусственным интеллектом?

На данный момент у нас нет 100-процентно надежного способа обнаружения контента ИИ каждый раз, но есть некоторые явные признаки сгенерированного компьютером текста, аудио, изображений и видео, на которые стоит обратить внимание. Добавьте немного человеческого интеллекта, и обычно можно определить, есть ли большая вероятность того, что что-то сгенерировано ИИ.

Здесь мы сосредоточимся на видео, созданном с помощью искусственного интеллекта и таких инструментов, как Sora от OpenAI, а также включили несколько примеров. В следующий раз, когда вы встретите видео, в котором вы не уверены, посмотрите, насколько оно соответствует этим критериям.

Плохой текст

Вы заметите, что во многих видео (и изображениях) AI отсутствует текст. Генеративный ИИ на самом деле не очень хорошо обрабатывает текст, потому что он не понимает буквы или язык — по крайней мере, не так, как люди. Знаки ИИ часто выглядят так, будто они написаны на инопланетном языке, поэтому обратите внимание на искаженный текст или отсутствие текста вообще.

Это не значит, что хороший текст не будет отображаться в видеороликах AI, но если он и появится, то, вероятно, он был добавлен позже. В трейлер этого лагеря монстров (встроенный ниже), созданный Luma AI, некоторые указатели выглядят нормально (и, скорее всего, были добавлены вручную) — проверьте надписи на автобусе и ярмарочных киосках на наличие тарабарщины. Вам нужно будет внимательно посмотреть, потому что странный текст долго не виден.

Быстрые (или медленные) разрезы

Это подводит нас к еще одной отличительной черте видео, созданного искусственным интеллектом: вы часто замечаете, что кадры очень короткие, а действие развивается очень быстро. Частично это сделано для того, чтобы скрыть несоответствия и неточности в видеороликах, которые вам показывают — идея состоит в том, чтобы создать у вас впечатление чего-то реального, а не самой реальной вещи.

С другой стороны — и это противоречит тому, что мы только что сказали — иногда действие будет сильно замедлено. Однако конечная цель та же: не дать проявиться швам на грани возможностей ИИ.

В это музыкальное видео, созданное искусственным интеллектом (встроено ниже) из Washed Out, это первое: все происходит быстро и быстро и исчезает, прежде чем вы успеваете на это как следует взглянуть. Попробуйте приостанавливать видео в разных точках, чтобы увидеть, сколько странностей вы сможете заметить (мы заметили, что по крайней мере один человек сливается со стеной).

Плохая физика

Генеративный ИИ знает, как объединить движущиеся пиксели, чтобы показать что-то похожее на кошку, город или замок, однако он не понимает мир, трехмерное пространство или законы физики. Люди будут исчезать за зданиями или выглядеть по-разному в разных сценах, здания будут построены странным образом, мебель будет стоять неправильно и так далее.

Учитывать этот снимок с дрона (встроено ниже), созданное Сорой из OpenAI. Следите за группой людей, идущих к нижней части сцены в левом нижнем углу: они все поглощают друг друга и, наконец, сливаются с перилами, потому что ИИ видит в них пиксели, а не людей.

Зловещая долина

Видео с искусственным интеллектом часто имеет блеск, который кажется неестественным, и мы уже знакомы с фразой «зловещая долина», когда речь идет о компьютерной графике, которая пытается воспроизвести то, что реально и естественно. Вы часто будете посещать Зловещую долину, просматривая видео с искусственным интеллектом, даже если это всего на несколько мгновений.

Если вы посмотрите на фильм о бренде созданный Toys R Us с помощью Sora AI, вы увидите, что улыбка и движения волос маленького ребенка выглядят подозрительно неестественно. Он также выглядит как другой ребенок от сцены к сцене, потому что он не актер: он представляет собой сгенерированное 2D-изображение, основанное на том, как, по мнению ИИ, вероятно, должен выглядеть мальчик.

Совершенные (или несовершенные) элементы

Это еще один случай, в котором есть что-то вроде противоречия, потому что видео ИИ могут выдаваться слишком идеальными или недостаточно совершенными элементами. В конце концов, эти клипы создаются компьютерами, поэтому рисунки на зданиях, транспортных средствах или материалах могут повторяться снова и снова, в шаблонах, слишком безупречных, чтобы существовать в реальной жизни.

С другой стороны, ИИ продолжает бороться со всем естественным, будь то рука, подбородок или развевающиеся на ветру листья. В это видео из Runway AI бегущего астронавта вы заметите, что руки в беспорядке (а также большая часть фоновой физики неверна и текст размазан).

Проверьте контекст

Тогда у вас есть все инструменты, которые у нас уже были для выявления дезинформации: еще до появления генеративного искусственного интеллекта был Photoshop, поэтому некоторые правила обнаружения фейков остались прежними.

Контекст имеет решающее значение: если видео поступает с Нью-Йорк Таймс официальный аккаунт в социальной сети, то он, скорее всего, заслуживает доверия. Если его пересылает безликий человек на X с большим количеством цифр в имени пользователя, возможно, меньше.

Проверьте, было ли действие на видео снято с других ракурсов, широко освещалось ли оно в других источниках, и действительно ли оно имеет какой-либо смысл. Вы также можете уточнить у людей, показанных в видео: если на заднем плане есть повествование Моргана Фримена, Морган Фримен сможет это проверить. так или иначе.