上個月在YouTube上的一段影片裡,一個略顯生硬、語法稍微有些奇怪、帶美國口音的聲音用英語嘲笑美國政府處理以色列與哈馬斯戰爭的方式,聲稱美國未能「像中國那樣起調解人的作用」,「現已發現自己處於明顯的孤立狀態」。
根據澳洲戰略政策研究所本週發表的報告,在一個異常龐大的YouTube頻道網路中,有4500多個影片在傳播親中和反美言論,而這個10分鐘的影片就是其中之一。該研究所是一個以安全問題為重點的智囊團。
這些影片中有些使用了人工生成的用戶頭像或解說,使其成為該研究所已知的首個用人工智慧生成的聲音為影片文章配音的影響力運動。
報告稱這場運動有明確目的:左右全球輿論支持中國、反對美國。這些影片推動的敘事包括,中國技術優於美國技術,美國經濟註定崩潰,中國和俄羅斯是負責任的地緣政治參與者等等。有些影片充滿了恭維華為等中國公司、詆毀蘋果等美國公司的宣傳。
廣告
報告發現,自去年以來,這個YouTube網包括的至少30個頻道已吸引了近1.2億次觀看和73萬個訂閱,偶爾還有西方公司在這些頻道做廣告。
報告稱,一些影片的題目和解說詞似乎是常見中文說法和中國公司名稱的直接翻譯。有些影片中提到的信息可追溯到主要是為中國大陸觀眾製作和播出的新聞報導。
虛假信息在這些影片中很常見,例如一些東南亞國家已採用人民幣作為本國貨幣的假消息。這些影片通常能對時事做出快速反應。澳洲研究所的分析師傑辛塔·基斯特在報告中寫道,這場共同行動可能是「社群媒體上與中國有關的最成功的影響力運動之一」。
YouTube在一份聲明中表示,公司團隊為保護網上社區晝夜不停地工作,還說,「我們已投入了大量資金,用於能主動檢測協調影響力操作的強大系統。」公司對研究努力表示歡迎,並表示已關閉了報告中提到的幾個違反平台政策的頻道。
近年來,雖然推動親中國信息的努力猛增,但以前主要是大量劣質內容,只吸引了有限的受眾參與,或未能保持有明顯意義的受眾,基斯特說。
「這場運動確實充分利用了人工智慧,與我們以前看到的運動相比,這場運動有能力以非常有限的成本大規模地製造有說服力的威脅內容,」她說。
近期的其他幾份報告表明,中國已在更為積極地推動詆毀美國的宣傳。從歷史上來看,中國影響力運動一直集中在捍衛中共領導的政府,為其鎮壓維吾爾人的政策或有關台灣未來的政策辯護。
廣告
在香港2019年的大規模民主抗議活動期間,中國開始更直接地針對美國,並在新冠病毒大流行期間繼續這樣做。這種做法與俄羅斯在國內外敗壞美國領導力和影響力名聲的長期努力相呼應。
今年夏天,微軟和其他公司的研究人員找到了網上基於人工智慧的假帳號的證據,中國用這些帳號來傳播虛假信息,比如誣告美國使用「氣象武器」點燃了夏威夷今年8月的致命山火。
今年9月在一份報告中,美國國務院指責中國為塑造全球信息環境使用「欺騙性和脅迫性的做法」,包括建立虛假的社群媒體帳號,甚至虛假的新聞機構。還有研究表明,中國在台灣積極散布假消息,稱美國最終將背叛島上的人民。
Meta上個月宣布,刪除了4789個來自中國的Facebook帳號,這些帳號冒充美國人辯論美國的政治問題。Meta警告,這些中國帳號似乎是在為干預2024年的美國總統大選做準備。這是Meta今年發現的第五個與中國有關係的帳號網,數量是全球之最。
人工智慧技術的到來似乎引起了中國政府的特別興趣。澳洲那家研究所的基斯特說,兜售虛假信息的人正在越來越多地使用簡單易用的影片編輯和人工智慧程序,來製造大量令人信服的內容。
她說,YouTube上支持中國頻道網很可能是用將文本轉化為影片的在線軟體或其他程序,把英文解說詞輸進去生成出來的,用這些軟體不需要專業的技術知識,並能在幾分鐘內將影片製作出來。這些程序通常讓用戶來選擇人工智慧生成的語音解說,定製他們想用的性別、口音和說話的聲調。
廣告
YouTube上支持中國的頻道網中使用的一些語音解說顯然是合成的。基斯特指出,音頻中沒有自然的停頓,還包括發音錯誤和偶爾的電子干擾聲。這些頻道網中的不同頻道有時使用了相同的聲音。(但有一組影片試圖欺騙受眾,在解說中加入了諸如「我是你們的主持人斯特凡」之類的語音,讓受眾誤以為是真人在說話。)
在39個這些頻道網發布的影片中,基斯特找到了至少10個人工生成的用戶頭像,一家英國人工智慧公司曾為此做過廣告。基斯特寫道,她還發現了也許是中國公司為影響力運動創造數字用戶形象的第一個例子:一名身穿紅色連衣裙、叫燕妮的女性。
澳洲研究所的報告稱,這個支持中國的頻道網路的規模可能比已發現的更大。似乎還有針對印度尼西亞人和說法語者的類似頻道。還有三個不同的頻道發布過有關晶片生產的影片,這些影片使用了類似的縮略圖以及翻譯成英語、法語和西班牙語的相同標題。