這個女人用略帶口音的普通話宣稱,中國男人應該娶「我們俄羅斯女人」。在中國短片平台抖音上的其他影片中,她描述自己有多喜歡中國食物,並兜售來自俄羅斯的鹽和肥皂。「俄羅斯人不騙中國人,」她承諾。
這些影片最近被發布到一個名為「拉迪娜」的帳戶上,但她的嘴唇動作與影片中的音頻不太匹配。這是因為,影片中的人其實是澳洲職業策略師沙德·扎赫拉伊,她在TikTok擁有170多萬粉絲,抖音上的影片將她的影片用人工智慧進行了修改。有人給扎赫拉伊的影片剪輯配上了漢語普通話,讓人覺得她在兜售俄羅斯產品。
歡迎觀看這個中國社群媒體上風生水起的類型:以據稱是俄羅斯年輕女性為主角的人工智慧偽造影片,它們被用來爭取對中俄關係的支持,激發愛國熱情或是賺錢——有時三者兼而有之。
目前尚不清楚這些影片的幕後推手是誰,但大多數影片最終都會將觀眾引向一個產品鏈接,這表明它們的主要目的是商業性的。其主要目標受眾似乎是民族主義的中國男性。
廣告
這些影片通常有「俄羅斯妻子」和「俄羅斯美女」等標籤。她們描述中國男性多麼有成就,或者懇求他們把自己從貧困或不那麼美好的國家中拯救出來。
另一組影片中,一名金髮女子描述了她對來到中國的感激之情。
「真是羨慕中國朋友,一出生你們就擁有了全球最珍稀的身份和最厚重迷人的語言,」她在類似Instagram的平台小紅書上發布的影片中說。
在另一段影片裡,這名女子感謝中國人民從她那裡購買俄羅斯巧克力,幫助俄羅斯度過經濟難關。「在過去的一年裡,全世界都在抵制俄羅斯,對我們各種限制與刁難,中國就像救世主一樣,」她說。
這些影片看起來更自然,女人的口型與流利的普通話同步。但它們也是假的。這些影片是根據奧爾加·洛伊克在YouTube上發布的影片篡改的,她是一名大學生,她的真實影片是關於自我提升和她在德國的間隔年。
洛伊克不會說中文。她在接受採訪時說,她永遠不會那樣讚揚俄羅斯。她來自烏克蘭,她的一些親戚還在那裡。
這些影片的製作者正試圖利用中國當前地緣政治、科技和公眾情緒所催生的市場。
廣告
近年來,俄羅斯與中國的關係顯著加深,面對西方日益增長的敵意,兩國領導人普丁和習近平宣布建立「沒有止境」的夥伴關係。普丁上週訪問了北京得到了習近平熱烈歡迎
用外國人的面孔來讚美中國也是為了利用中國受眾的民族自豪感或民族主義。在審查環境下,越來越多的話題成為禁區,民族主義內容已成為中國互聯網上最可靠的流量驅動力之一。
英國杜倫大學國際關係教授張晨晨說,這種民族主義——和世界各地的民族主義一樣——往往包含著性別歧視的因素。
「以性物化的方式呈現年輕白人女性是性別民族主義或民族主義性別歧視的典型表現,」張晨晨在一封電子郵件中寫道。「觀眾可以在消費這些內容的過程中堅定自己的民族主義和男性自豪感。」
在幾段以偽造的扎赫拉伊為主角的影片中,這個偽造人物叫她的觀眾「大哥」。這個角色還指出,俄羅斯沒有在日本或韓國銷售這些產品,這兩個國家與中國的關係一直很緊張。
中國政府經常鼓勵網上的民族主義,但沒有跡象表明它和這些深偽影片有任何關係(儘管一些地方政府與真實的俄羅斯女性合作,宣傳有關中國魅力的類似信息)。在中國的社群媒體上也有一小群真的俄羅斯網紅,其中許多是年輕女性。
俄羅斯國家媒體提供的一張照片顯示,俄羅斯總統普丁和中國領導人習近平在普丁上週訪問期間喝茶。
俄羅斯國家媒體提供的一張照片顯示,俄羅斯總統普丁和中國領導人習近平在普丁上週訪問期間喝茶。 Mikhail Metzel/Sputnik
許多影片製作者可能只是利用了中國人喜歡通過直播和短片購物的特點。隨著人工智慧技術變得越來越先進,一些中國公司為了節省開支,已經將真人改為虛擬銷售人員
聖克拉拉大學研究人工智慧治理的教授陸海兵(音)說,作為銷售策略的人工生成影片可能會越來越普遍,因為人工智慧技術發展得非常快,普通大眾也更容易獲得。
廣告
扎赫拉伊的經紀公司在電子郵件中說,那些影片中的人工智慧修改「質量很差」,即使是對普通觀眾來說也「很可能看起來是假的」。該帳號的一些影片只有幾十次瀏覽,但其中一個討論與俄羅斯女性結婚的影片有2.2萬次瀏覽。
這似乎無關緊要。在該帳號的一個影片中彈出的自動計數器顯示,該品牌的鹽在抖音平台上已經被購買了36萬次。
當《紐約時報》聯繫經篡改的扎赫拉伊的影片抖音帳號時,帳號持有者在一段音頻信息中證實,這些影片是他製作的。「三個構建,音頻,影片和嘴,無限生成任何你想要的影片,」他說,然後他取消了與記者的好友關係。
這些影片的複雜程度各不相同。一些假女人看起來完全是電腦生成的,動作僵硬,也就比模擬人生》遊戲人物強些。有些則非常出色,比如以洛伊克為原型篡改的影片。
「儘管我知道那不是我,但現實還是讓人害怕,」洛伊克說。她最近發現,中國有30多個不同的社群媒體帳戶盜用了她的形象。「當我決定創建自己的YouTube頻道時,我知道深偽的危險,但我認為這主要是著名政治和娛樂人物要擔心的問題。現在我意識到,任何在網上上傳自己影片的人都可能受到影響。」
洛伊克在小紅書上舉報了這些帳戶,並將她的經歷製作了一段YouTube影片。最終,大多數使用她肖像的帳號都被關閉了。
最近幾週,這些社群媒體平台加強了審查,刪除了一些人工智慧影片,或給其中一些影片加上了標籤。中國是第一個針對生成式人工智慧制定法規的國家,從理論上講,中國的一些政策比西方更嚴格。
正在上在線銷售直播課的學生。在中國,爆炸性的網紅文化和在線直播影片浪潮改變了人們買賣商品的方式。
正在上在線銷售直播課的學生。在中國,爆炸性的網紅文化和在線直播影片浪潮改變了人們買賣商品的方式。 Qilai Shen for The New York Times
但世界各國都在艱難執行自己的規定。在中國,發現不法行為可能尤其困難,因為中國的互聯網環境是封閉的,許多外國社群媒體都是被禁止的。
外國網紅不太可能知道他們的照片在中國社群媒體上被使用,並提起版權訴訟。在檢查人工智慧操縱時,中國的平台可能也不會去參考海外的內容,一名35歲、只透露自己姓陳的男子說。他經營著兩個人工智慧生成的俄羅斯女性帳戶,他說自己每個月從這些帳戶中賺取大約7000人民幣,但由於擔心監管加強,他於今年3月關閉了這些帳戶。
廣告
但更多的影片仍在湧現。聖克拉拉大學的陸海兵說,俄羅斯現在可能是熱門話題,但這種做法可能很快就會蔓延到下一個趨勢。
「幕後的人會操縱任何可能的話題來吸引人們的注意力,」他說。「向家長展示『如何上名校』;向年輕女士展示『如何變美』。我相信在未來,每個人都會使用人工智慧技術來定製主題,製作影片來吸引特定受眾。」