Поцелуй, которого не было: как в Сети набирают популярность новые дипфейк-приложения
Компании Meta (признана в России экстремистской и запрещена, владеет Facebook и Instagram) и TikTok показывают пользователям тысячи рекламных роликов приложений, в которых благодаря искусственному интеллекту можно генерировать дипфейковые ролики с целующимися людьми. Для этого достаточно лишь загрузить фотографии двух человек и дать приложению команду сделать видео, где те целуются. При этом они рекламируются как инструменты, позволяющие в один клик «поцеловать кого хочется» — никакого согласия не нужно.
По своей сути такие приложения для «ИИ-поцелуев» похожи на сервисы с «ИИ-раздеванием», в которых можно сгенерировать дипфейк-порнографию с участием человека, который не давал на это согласия. В них можно создавать любые правдоподобные видео, где люди якобы занимаются тем, чего они на самом деле не делали. А легкость, с которой это возможно сгенерировать, — тревожный признак того, насколько обыденной вещью становятся дипфейки.
И пусть рекламные ролики с поцелуями не носят откровенно сексуального характера, как хлынувший в соцсети вроде Instagram, Reddit и YouTube сгенерированный нейросетями порнографический контент, по предположению Хейли Макнамары, одного из руководителей в Национальном центре по борьбе с сексуальной эксплуатацией, они представляют не меньшую опасность.
«Чтобы считаться эксплуатацией, откровенное содержание необязательно, ― говорит Макнамара. ― Если материал переходит границы допустимого в отношении человека в офлайне, например поцелуи, раздевание и другие действия без его согласия, значит, это переходит границы и в онлайн-пространстве».
Как выяснил Forbes USA, Meta разместила в лентах Instagram и Facebook рекламу 2500 приложений с «ИИ-поцелуями». В настоящий момент из них активны около 1100 сервисов. TikTok показывает миллионам пользователей в европейских странах примерно 1000 таких промороликов, судя по рекламной библиотеке платформы (показы в США в ней не учитываются). В большинстве подобных видео «целуются» знаменитости — Скарлетт Йоханссон, Эмма Уотсон и Галь Гадот. Но в некоторых участвуют и обычные люди, а рекламодатели заявляют, что благодаря ИИ можно «поцеловать бывшего партнера» или «того, кто очень нравится».
Настоящие в этих роликах показаны люди или сгенерированные при помощи ИИ, остается неясно. Скарлетт Йоханссон, Эмма Уотсон и Галь Гадот не ответили на просьбы журнала дать комментарий. Первым о волне подобных рекламных роликов в соцсетях сообщил интернет-портал Futurism.
Помимо всего прочего, Meta продвигает приложения с «ИИ-объятиями». В рекламе некоторых можно увидеть сгенерированных искусственным интеллектом детей, обнимающих героев мультфильмов типа Даши-путешественницы, Микки Мауса и Тома и Джерри. В других же роликах с маленькой девочкой, обнимающей пожилого мужчину, родителям обещают, что благодаря ИИ-приложению их дети получат возможность «обнять дедушек и бабушек, которых не застали». Forbes USA насчитал, что в лентах соцсетей интернет-гиганта было показано около 1200 рекламных роликов приложений с ИИ-объятиями. До сих пор можно увидеть более 300 из них.
Видео с целующимися и обнимающимися людьми, сгенерированные при помощи ИИ, уже расходятся по социальным сетям. Ролик с тем, как Тейлор Свифт обнимается с Ким Чен Ыном, собрал около 30 млн просмотров в Instagram. А в конце декабря в соцсети X (ранее Twitter; заблокирована в России) завирусились дипфейк-видео, где целуются Илон Маск и премьер-министр Италии Джорджа Мелони.
Пресс-секретарь Meta Дэниел Робертс заявил в комментарии Forbes USA, что реклама приложений для «ИИ-поцелуев» не нарушает политику компании. И хотя нагота, откровенный и сексуализированный контент идут вразрез с рекламными стандартами Meta, а проморолики, в которых «изображаются, поощряются либо координируются действия сексуального характера между не дававшими согласия сторонами», для компании недопустимы, видеоматериалы с поцелуями и объятиями разрешены в социальных сетях корпорации.
После обращения за комментарием от Forbes USA в TikTok убрали рекламу, нарушающую внутреннюю политику. Пресс-секретарь соцсети Ариана де Сельерс пояснила изданию, что платформа требует от рекламодателей получать согласие со стороны представленных в промоматериалах публичных и частных лиц, даже если видео сгенерировано при помощи ИИ.
Компании-разработчики подобных программ, судя по их сайтам, обычно базируются за пределами США — в ОАЭ, Италии и Китае. Приложения доступны для бесплатного скачивания в App Store и Play Store, причем счет их загрузок идет на миллионы. Возможность создать кадры с «ИИ-поцелуями» — только часть большого спектра возможностей для редактирования фотографий с помощью искусственного интеллекта. Среди них, например, ретушь старых снимков, превращение статичных фото в видео и генерация изображений будущих детей при помощи снимков конкретной пары.
Распространенность приложений для создания «ИИ-поцелуев», которую подкрепляет вирусность соцсетей, — тревожный пример того, как дипфейки становятся мейнстримом в эпоху генеративного ИИ. По мнению Хейли Макнамары, использование этих безобидных, казалось бы, приложений потенциально открывает дорогу инструментам, позволяющим создавать более реалистичное дипфейк-порно и делает доступнее другие способы сексуализированного насилия на основе изображения определенного человека. «Это самый настоящий ящик Пандоры», ― предостерегает она.
«Этот тренд нормализует эксплуататорские дипфейки и превращает изображения с интимным либо открыто сексуальным содержанием, сгенерированные без согласия, в шутку, — продолжает Макнамара. — Когда дело касается других людей, несложно воспринимать это как пустяк, но если предположить, что такие изображения с вами может сделать кто-нибудь из вашего же окружения или тот, кому вы бы не хотели давать свои снимки, думаю, любой сочтет это посягательством».
Эта тенденция особенно тревожит, если принимать во внимание то, что найти материалы с сексуализированным насилием над детьми в настоящий момент легче, чем когда-либо раньше. За последние два года в Национальный центр по поиску пропавших и подвергшихся насилию детей США (National Center for Missing & Exploited Children, NCMEC) поступило более 7000 сообщений о материалах с насилием над ребенком, сгенерированных с помощью ИИ. В одном случае педофил, предположительно, снимал детей в Диснейленде и при помощи популярного ИИ-приложения Stable Diffusion создал тысячи противозаконных изображений.
Более того, с неограниченным доступом к ИИ-генераторам изображений старшеклассники нередко создают дипфейки несовершеннолетних одноклассниц в обнаженном виде, иногда дело даже доходит до суда. Как пишет Faked Up, Meta пытается бороться с подобными «раздевающими» ИИ-ресурсами (на один из таких порталов 90% всего трафика приходит с Instagram и Facebook), но особых успехов пока не добилась.
Те, кто, прокручивая ленту в социальных сетях, наткнулся на рекламные ролики с целующимися дипфейками, говорят, что им от подобного зрелища становится не по себе. В декабре ИИ-аналитик Элис Сирегар, которая работает в фирме, специализирующейся на консалтинге в сфере IT, заметила, что число рекламных роликов приложений с «ИИ-поцелуями» стало резко подниматься в TikTok. Исследовательницу встревожило, что технологию применяют «крайне неэтичным» образом. «Видеть такое было невероятно жутко», ― сказала Сирегар.
Раши Шривастава
Автор
https://www.forbes.ru/forbeslife/529292-poceluj-kotorogo-ne-bylo-kak-v-seti-nabiraut-popularnost-novye-dipfejk-prilozenia
Комментарии (0)