文 | AI藍媒匯，作者|陶然 編輯|魏曉

　　小楊哥事件中曝出來那段“盧文慶錄音”，先是內(nèi)容尺度之大引起輿論嘩然，接著又被查明全部是AI偽造。

　　一來二去，AI技術(shù)再次被推上了風(fēng)口浪尖。

　　圖/言域科技官方回復(fù)

　　先不論技術(shù)好與壞，本質(zhì)上，AI合成錄音可以被理解為一種Deepfake，即利用深度學(xué)習(xí)算法，實現(xiàn)音視頻的模擬和偽造，也就是通過人工智能技術(shù)中的深度學(xué)習(xí)模型，將人的聲音、面部表情及身體動作拼接，合成為非常逼真的虛假內(nèi)容 。

　　技術(shù)層面來說，它是中性的，類似的方式除了語音模擬，還包括AI換臉、人臉合成、視頻生成等，統(tǒng)稱為深度偽造。

　　但，中性的技術(shù)，架不住使用者圖謀不軌。

　　藍媒匯咨詢了國內(nèi)頭部AI數(shù)字人公司風(fēng)平智能創(chuàng)始人兼CEO林洪祥，對于這類事件，林洪祥坦言，AI帶來的生產(chǎn)效率提升是全方面的，但在“應(yīng)用”擴展起來的中途，違規(guī)事件想要完全隔絕，恐怕需要系統(tǒng)性的規(guī)范并有效執(zhí)行。

　　依照行業(yè)目前的技術(shù)水平，用戶只需要找?guī)追昼姷牧闵⑺夭淖鳛锳I的學(xué)習(xí)樣本，就能迅速克隆出完整的AI人聲。而錄音中的一些說話的頓挫、情緒語調(diào)，完全是可以通過技術(shù)手段去增減、調(diào)整的。

　　并且，落到實際應(yīng)用環(huán)節(jié)，復(fù)制一套AI人聲的成本“現(xiàn)在已經(jīng)不高了”，市面上的應(yīng)用很多都會給一些免費的入口，以涉事模型為例，Reecho睿聲模型提供了免費的聲音克隆服務(wù)，更為專業(yè)的版本則另需付費。

　　把從網(wǎng)上截取的一段盧老板直播轉(zhuǎn)成音頻導(dǎo)入，短短幾秒鐘后，盧老板的AI聲音就克隆了出來。

　　再仿照原事件中情緒和文本都非常離譜的一段錄音，作為腳本導(dǎo)入模型，一段盧文慶銳評馬斯克的錄音，就做完了。

　　（本音頻為AI合成，僅供測試，嚴禁對外傳播）

　　“小馬他倆走了，是吧。我跟你們說，我想讓誰火就讓誰火，懂嗎。我認識的CEO多了去了，我捧誰不是捧。別給我提馬斯克，不好使，知道不，不好使，我們喝酒也是不好使，他是個啥，沒有三只羊，誰來給他賣貨，懂不懂這個道理?！?/p>

　　坦白講，如果那種AI詐騙電話聽多了，或者對人聲敏感，其實還能聽出來AI音頻有種“機器感”——語調(diào)從始至終都過于穩(wěn)定，人情緒激動的時候絕不會這樣。但這只是最基礎(chǔ)的普通版模型、瞬時克隆功能。如果有更充足的語料、選擇專業(yè)克隆功能，效果會更“真實”。

　　那么，AI合成的音視頻，有可能像測謊儀那樣比較直觀通過數(shù)據(jù)分辨真?zhèn)螁幔?/p>

　　在技術(shù)層面，是可行的。林洪祥介紹稱，除使用者本人授權(quán)外，現(xiàn)在AI數(shù)字人行業(yè)內(nèi)也確實有相關(guān)標準正在建設(shè)中，要求各種AI生成的內(nèi)容都加上專門的可識別“特征標記”。

　　這個標簽，不是簡單的在角落里加個“由XX AI生成”水印，以AI合成聲音為例，它會在人說話聲音的頻段之外，添加額外的噪聲頻段，甚至在可見音的范圍內(nèi)，添加一定的特征頻段。

　　這個特征頻率可由機器識別，如果需要做鑒定，交由設(shè)備抽取這些頻段，理論上即可判定真?zhèn)巍?/p>

　　但目前，愿意將這項功能普及的企業(yè)并不會太多，限制因素?zé)o他，主要還是多一道手續(xù)產(chǎn)生的成本——盡管單次使用模型的成本并不高，但每個音視頻模型預(yù)訓(xùn)練階段的投入，以及階段性產(chǎn)出后開發(fā)下一代音視頻模型所產(chǎn)生的成本，對于現(xiàn)階段的AI企業(yè)仍有較大壓力。

　　目前，AI音視頻行業(yè)尚在早期，推廣階段如何獲客的同時覆蓋成本，是從業(yè)者繞不開的話題。

　　但上述這些，顯然都不是圖謀不軌的不法分子會考慮的事，煙花還是炸彈關(guān)鍵看火藥怎么用。

　　半年多前，香港警方披露了一起涉案金額高達2億港元的詐騙案。案件中，某跨國公司香港分部的職員接到總部CFO通知，稱總部正在計劃一個“秘密交易”，需要將公司資金轉(zhuǎn)到幾個香港本地的賬戶中待用。

　　而后，員工受邀參加總部發(fā)起的“多人視頻會議”，并按照會議要求先后將2億港元分別轉(zhuǎn)賬15次，分別轉(zhuǎn)到了5個銀行賬戶內(nèi)。

　　圖源/央視新聞

　　實際上，這場多人視頻會議，除了該分部職員外，其他“人”都是詐騙分子利用公開音視頻切片合成的AI形象，再用視頻電話會議的形式換臉換聲音，詐騙團隊直接變成高管團隊發(fā)號施令。

　　香港案件中，不法分子是相當于是用AI換臉+AI變聲器真人出鏡，而小楊哥這次的AI偽造錄音，則是完全由大模型學(xué)習(xí)三只羊公司盧文慶相關(guān)音頻素材后，合成語調(diào)、情緒都趨近于真人的整段音頻。流程，就是這么簡單——AI合成音視頻，已經(jīng)是一項成熟的技術(shù)，相關(guān)產(chǎn)品，也已發(fā)展成為完整產(chǎn)業(yè)。

　　但，AI合成音視頻的主流，絕非造假。流浪地球第二部的劇情內(nèi)，劉德華飾演的圖恒宇以數(shù)字生命的形式復(fù)活了丫丫，而在劇情外，已故的知名影星吳孟達，也在借由 AI 現(xiàn)身銀幕。

　　所以，以后如果再出類似小楊哥錄音事件，討論技術(shù)有罪還是無罪之前，還是盡量先把人控制住。

　　管管人性，救救AI。