Глубокие фейки, пожалуй, самый опасный аспект ИИ. Сейчас создать фальшивые фотографии, аудио и даже видео стало относительно тривиально. Ниже вы найдете, например, глубокие фейки Моргана Фримена и Тома Круза.
Но хотя социальные сети до сих пор использовались как механизм распространения дипфейков, глава Instagram Адам Моссери считает, что они действительно могут сыграть ключевую роль в их разоблачении…
Как создаются глубокие фейки
На сегодняшний день основным методом создания дипфейковых видеороликов является подход, известный как генеративно-состязательные сети (GAN).
Одна модель искусственного интеллекта либо генерирует поддельный видеоклип, либо отображает подлинный. Вторая модель искусственного интеллекта пытается идентифицировать подделки. Повторное выполнение этого процесса обучает первую модель генерировать все более убедительные подделки.
Однако сейчас на смену приходят диффузионные модели, такие как DALL-E 2. Они снимают реальные видеоматериалы, а затем вносят различные изменения, создавая большое количество их вариаций. Текстовые подсказки можно использовать для информирования модели ИИ о желаемых результатах, что упрощает их использование — и чем больше людей их используют, тем лучше они становятся обученными.
Примеры дипфейковых видео
Вот хорошо известный пример дипфейка Моргана Фримена, созданного целых три года назад, когда технология была гораздо менее сложной, чем сегодня:
И еще, Том Круз в роли Железного Человека:
Британцы также могут узнать Мартина Льюиса, который известен своими финансовыми советами, в глубоком фейке, рекламирующем мошенничество с криптовалютой:
Исполнительный директор Meta Адам Моссери считает, что социальные сети на самом деле могут улучшить ситуацию, а не ухудшить ее, помогая отмечать фейковый контент – хотя он отмечает, что они не идеальны для этой цели, и каждому из нас необходимо учитывать источники.
С годами мы научились создавать реалистичные изображения, как неподвижные, так и движущиеся. «Парк Юрского периода» поразил меня в десять лет, но это был фильм за 63 миллиона долларов. Четыре года спустя Golden Eye для N64 произвел на меня еще большее впечатление, потому что он был вживую. Сейчас мы оглядываемся назад на эти средства массовой информации и видим, что они в лучшем случае кажутся грубыми. Независимо от того, являетесь ли вы быком или медведем в области технологий, генеративный ИИ явно создает контент, который трудно отличить от записей реальности, и быстро совершенствуется.
Лет десять назад мой друг @lessin подтолкнул меня к мысли, что любое утверждение следует оценивать не только по его содержанию, но и по авторитету человека или учреждения, делающего это утверждение. Возможно, это произошло много лет назад, но такое ощущение, что именно сейчас мы коллективно понимаем, что при оценке достоверности утверждения стало более важно учитывать, кто что говорит, а не то, что они говорят.
Наша роль как интернет-платформы заключается в том, чтобы как можно лучше маркировать контент, созданный искусственным интеллектом. Но некоторый контент неизбежно ускользнет из виду, и не все искажения будут созданы с помощью ИИ, поэтому мы также должны предоставить контекст о том, кто делится, чтобы вы могли сами оценить, насколько вы хотите доверять их контенту.
Будет все более важно, чтобы зритель или читатель проявлял проницательный ум, когда они потребляют контент, претендующий на роль отчета или записи реальности. Мой совет — *всегда* учитывать, кто именно говорит.
Изображение: Шамук
