Недавно мы писали о приложении Zao, которое позволяет довольно натуралистично заменять лица на видео. Эта и многие другие программы используют технологию Deepfake, новости о которой вот уже 2 года стабильно появляются в сети. И упоминания часто не самые радужные: крупнейшие мировые издания и представители власти называют Deepfake одной из главных информационных угроз нашего века.
Мы в Adme-ru решили разобраться, что такое Deepfake и почему она пугает даже американских сенаторов.
Что такое Deepfake и как эта технология появилась
© The Tonight Show Starring Jimmy Fallon / NBC
© TheGoncas2 / YouTube
Своим появлением Deepfake обязана генеративно-состязательным нейросетям (GAN). Механизм их работы заложен в двух противоборствующих алгоритмах. Первый обучается на предоставленных ему фотографиях, чтобы сформировать реалистичную подмену лица. Второй отсекает неудачные варианты до тех пор, пока сам не начнет путать копию и оригинал.
Первое публичное появление технологии произошло на Reddit, где лица таких звезд, как Скарлетт Йоханссон, Дейзи Ридли и Эмма Уотсон, были использованы в роликах эротической направленности. Позднее эти видео появились в Facebook и других соцсетях. Скандал был настолько громким, что о борьбе с дипфейками заговорил лично глава соцсети Марк Цукерберг, пообещав откорректировать правила публикации. Позднее он и сам стал жертвой технологии — в довольно качественно сделанном ролике его «заставили» говорить о том, что он контролирует мир с помощью информации. Смогли бы с уверенностью сказать, что видите обман, если бы не наше предупреждение?
Но не все работы наносили вред репутации известных людей. Были и довольно безобидные развлечения. Например, одна группа энтузиастов начала заменять лица знаменитых людей в кино и сериалах Николасом Кейджем.
© Friends / Warner Bros.
© derpfakes / YouTube
В 2018 году была опубликована первая публичная программа для подмены лиц под названием FakeApp, которая открыла доступ к deepfake-инструментам для простого обывателя. Как оказалось, это тот самый алгоритм, которым пользовался создатель эротических роликов.
После такого неприятного старта технологии крупные социальные сети начали серьезнее анализировать публикуемые ролики и фото на предмет фейковости, а «приличный» контент получил более широкое распространение. В то же время политики различных государств заговорили об опасности Deepfake, и небезосновательно.
Чем опасен Deepfake?
© The Late Show with Stephen Colbert / CBS
Стив Бушеми отреагировал на видео так: «Я никогда не выглядел настолько хорошо».
- По мнению специалиста компании Google, дипфейки могут оттолкнуть нас на столетия назад, когда видео и фото не считались достаточными доказательствами. И действительно, фейк-технологии совершенствуются с каждым днем, а вот развитие инструментов, способных распознать поддельный контент, пока находится в зачаточном состоянии.
- Использование программы с лицами политиков может привести к необратимым последствиям. Например, в этом видео бывший президент США Барак Обама нелестно отзывается о своем преемнике Дональде Трампе. Ролик был сделан режиссером Джорданом Пилом («Мы», «Прочь»), чтобы показать всю потенциальную опасность Deepfake.
- Журналистка The Guardian считает, что Deepfake может стать орудием против женщин в интернете, поскольку львиная доля подобного контента приходится на махинации с их лицами для создания продукта эротического содержания.
- Уже существует такое понятие, как deepfake-преступность. Широкую огласку получил случай ограбления британской энергетической компании, директору которой позвонил якобы управляющий из Германии. Программа сымитировала все — от внешности до акцента — и попросила переслать деньги фирме-поставщику из Венгрии. Так компания потеряла € 220 тыс.
Есть ли что-то положительное в этой технологии?
© Charlie’s Angels / Sony Pictures
© Andrew Chaushesku / YouTube
К сожалению, кроме веселых и безобидных роликов, эта программа не подарила миру ничего положительного. Как раз выше — кадр одного из последних хитов, трейлера ремейка «Ангелов Чарли», где место всех троих Ангелов занял Михаил Ефремов.
А какая современная технология пугает лично вас?