中青報(bào)·中青網(wǎng)記者 王梓

在許多國(guó)家，計(jì)算機(jī)工程師和關(guān)注技術(shù)發(fā)展的政治人士多年來(lái)一直警告稱，成本低廉、獲取門檻低、功能日漸強(qiáng)大的人工智能（AI）工具，很快就能制造出以假亂真的圖像、視頻和音頻。在人的操縱下，AI可能欺騙選民，進(jìn)而影響選舉。

(資料圖片僅供參考)

似乎就在不久前，合成的虛假圖像還多半是粗糙、難以令人信服的，社交媒體上傳播的虛假信息總是很快就被“打假”。人們相信，AI帶來(lái)的“深度偽造”至少幾年后才會(huì)出現(xiàn)。

美聯(lián)社報(bào)道稱，如今，復(fù)雜的生成性AI工具能在幾秒鐘內(nèi)“克隆”某人的聲音和形象，制造出大量“假料”。只要綁定強(qiáng)大的社交媒體算法，AI就可以迅速鎖定受眾進(jìn)行傳播，以前所未見(jiàn)的規(guī)模和速度破壞選舉。

“競(jìng)選的骯臟伎倆又要刷新下限了。”美聯(lián)社寫道。

美國(guó)將在2024年舉行總統(tǒng)選舉。多國(guó)媒體預(yù)測(cè)，這將成為美國(guó)第一場(chǎng)廣泛使用AI工具的選舉，民主黨與共和黨都會(huì)將AI技術(shù)用于宣傳、籌款等活動(dòng)。

以往需要競(jìng)選團(tuán)隊(duì)耗費(fèi)大量時(shí)間準(zhǔn)備的宣傳材料，AI能在極短時(shí)間內(nèi)完成。風(fēng)頭正勁的聊天機(jī)器人ChatGPT只需幾秒鐘，就能生成一份措辭華麗的演講稿。

技術(shù)專家警告稱，由于美國(guó)陷入政治極化，加上美國(guó)前總統(tǒng)特朗普輸?shù)?020年大選后抨擊選舉被“操縱”，許多選民對(duì)政壇和主流媒體的信任度大打折扣。有人可能利用這一點(diǎn)，用AI技術(shù)制造混亂。

據(jù)美國(guó)《紐約時(shí)報(bào)》報(bào)道，美國(guó)新聞可信度評(píng)估與研究機(jī)構(gòu)News Guard和為數(shù)碼調(diào)查提供資源與培訓(xùn)的Shadow Dragon公司都在5月發(fā)布報(bào)告稱，大量所謂的“新聞網(wǎng)站”和虛假用戶利用AI工具在網(wǎng)上發(fā)布虛假內(nèi)容，比如捏造新聞事件和名人死亡的消息。

News Guard聯(lián)合創(chuàng)始人史蒂文·布里爾稱，該機(jī)構(gòu)發(fā)現(xiàn)，有125個(gè)網(wǎng)站的內(nèi)容完全或大部分由AI工具編寫，內(nèi)容涵蓋新聞、醫(yī)療資訊、生活類文章等。

Shadow Dragon的研究人員通過(guò)篩查AI工具容易產(chǎn)生的錯(cuò)誤和預(yù)設(shè)回復(fù)來(lái)尋找虛假內(nèi)容，結(jié)果發(fā)現(xiàn)，在主流網(wǎng)站、社交媒體平臺(tái)甚至電商平臺(tái)的評(píng)論區(qū)中，都存在虛假內(nèi)容。一篇關(guān)于俄烏沖突的文章中直白地寫著：“作為AI語(yǔ)言模型，我不能提供帶有偏見(jiàn)或關(guān)于政治的內(nèi)容。”

布里爾指出，民眾很難知道自己看到的“新聞”是由誰(shuí)提供的，這類虛假內(nèi)容進(jìn)一步降低了人們對(duì)新聞媒體的信任度。“新聞消費(fèi)者對(duì)新聞來(lái)源的信任度越來(lái)越低，部分原因是，他們難以區(qū)分哪些消息可靠，哪些不可靠。”

據(jù)美國(guó)《今日美國(guó)》報(bào)和法新社報(bào)道，今年年初，一段“拜登與特朗普對(duì)噴”的假音頻在社交媒體上火了。3月，各國(guó)社交媒體上瘋傳“特朗普被警察拖走、關(guān)進(jìn)監(jiān)獄”的合成照片。4月，拜登宣布將參加大選后，共和黨全國(guó)委員會(huì)立刻發(fā)布了一條由AI生成的短視頻，展示“有史以來(lái)最弱的總統(tǒng)”拜登連任后“美國(guó)大亂”的景象：非法移民沖破邊界關(guān)卡，涌入美國(guó)；金融市場(chǎng)崩潰，華爾街陷入恐慌……

人們對(duì)這些“PS痕跡明顯”的內(nèi)容一笑而過(guò)，但在專家眼中，它們是給美國(guó)社會(huì)的一次預(yù)警。拜登2020年競(jìng)選團(tuán)隊(duì)的首席技術(shù)官丹·伍茲警告，美國(guó)需要為應(yīng)對(duì)“大規(guī)模虛假信息運(yùn)動(dòng)”做好準(zhǔn)備。

AI對(duì)選舉的影響力令專家們不安：生成性AI工具能迅速產(chǎn)出競(jìng)選電郵、視頻等宣傳材料，冒充候選人、誤導(dǎo)選民。“共和黨全國(guó)委員會(huì)承認(rèn)自己用了AI，但其他人……不會(huì)承認(rèn)。”美國(guó)網(wǎng)絡(luò)安全公司Forcepoint全球首席技術(shù)官佩特科·斯托揚(yáng)諾夫說(shuō)。

美聯(lián)社設(shè)想了一些“AI陷阱”：用總統(tǒng)候選人的聲音制作假音頻，指示選民在錯(cuò)誤的日期投票；冒充候選人承認(rèn)“犯罪”，或發(fā)布種族主義言論；散布和新聞報(bào)道截圖相似的圖片……“如果（假的）埃隆·馬斯克打電話給你，讓你投票給某位候選人，怎么辦？很多人會(huì)照辦。”美國(guó)艾倫人工智能研究所創(chuàng)始人奧倫·埃齊奧尼對(duì)美聯(lián)社說(shuō)。

眾議員伊維特·克拉克擔(dān)心，AI工具可能被用來(lái)在大選期間煽動(dòng)暴力。“我們必須跟上技術(shù)的發(fā)展，這很重要。我們必須設(shè)置一些‘護(hù)欄’。”她說(shuō)，“只要一瞬間，AI就能欺騙人們。在忙碌的生活中，人們沒(méi)有時(shí)間去檢查每一條信息。被武器化的AI破壞力極強(qiáng)。”

5月30日，非營(yíng)利組織人工智能安全中心發(fā)布了一封聯(lián)名公開(kāi)信，稱“降低AI帶來(lái)的滅絕風(fēng)險(xiǎn)應(yīng)成為全球優(yōu)先事項(xiàng)，與大流行病、核戰(zhàn)爭(zhēng)等風(fēng)險(xiǎn)同等對(duì)待”。信中只有簡(jiǎn)短的一句話，獲得了來(lái)自多國(guó)的超過(guò)350名科技行業(yè)領(lǐng)袖與專家聯(lián)署。

美國(guó)加州大學(xué)伯克利分校信息學(xué)院教授漢尼·法里德提醒人們，不要忽略另一種威脅：AI能輕易“制造”現(xiàn)實(shí)，也就能輕易否定現(xiàn)實(shí)：總統(tǒng)候選人被曝出了不當(dāng)言論？不用慌，“甩鍋”給音頻造假就行。