本報訊(記者 陳義)近年來,作為人工智能領(lǐng)域的新應(yīng)用,深度合成技術(shù)已在多個領(lǐng)域大量應(yīng)用。如:以深度學(xué)習(xí)、虛擬現(xiàn)實等為代表的生成合成類算法制作的圖像、音頻、視頻等信息。因具備較高的娛樂性與廣泛的傳播性,越來越多的創(chuàng)作者參與其中,深度合成內(nèi)容在各類社交媒體平臺上呈現(xiàn)出較高的關(guān)注度。
然而在互聯(lián)網(wǎng)上,因惡意使用該技術(shù)生成的音視頻所造成的負(fù)面影響不容小覷。深度合成內(nèi)容的技術(shù)濫用,易對廣大群眾和企業(yè)造成聲譽(yù)損害和財產(chǎn)損失,并在社會、國家層面產(chǎn)生一定的不良影響。
當(dāng)前,深度合成內(nèi)容的應(yīng)用場景仍在不斷豐富。從AI換臉、語音合成、影像修復(fù),再到最近大熱的“元宇宙”,深度合成內(nèi)容正在快速進(jìn)入大眾視野。隨著技術(shù)成熟度的持續(xù)提升,越來越多的企業(yè)機(jī)構(gòu)也開始利用深度合成技術(shù),提供面向公眾的產(chǎn)品和服務(wù)。
“元宇宙”等新商業(yè)思維的提出,為深度合成提供了更廣闊的應(yīng)用場景?!氨热缣摂M人、數(shù)字人即是深度合成的主要應(yīng)用,也是‘元宇宙’的重要組成部分?!卑⒗锇桶桶踩兄c認(rèn)知智能部負(fù)責(zé)人薛輝表示。
隨著深度合成行業(yè)持續(xù)發(fā)展,深度合成產(chǎn)品和服務(wù)增多,內(nèi)容制作的技術(shù)門檻持續(xù)降低,逐漸實現(xiàn)技術(shù)“平民化”,相關(guān)內(nèi)容風(fēng)險也在持續(xù)加劇。近年來,不法分子通過偽造音頻、視頻,實施誣陷、誹謗、詐騙、勒索等違法案件頻發(fā)。
清華大學(xué)新聞與傳播學(xué)院常務(wù)副院長陳昌鳳表示,虛假內(nèi)容的高難度甄別影響了事實核查的有效性,在社會重大事件或政治事件節(jié)點(diǎn)上,深度合成技術(shù)可能被用于操作輿論意見,借助社交媒體,使虛假信息短時間內(nèi)引發(fā)產(chǎn)生病毒式擴(kuò)散,激化社會矛盾。
今年年初,國家網(wǎng)信辦公布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定(征求意見稿)》,對深度合成內(nèi)容的用途、標(biāo)識、使用范圍以及法律責(zé)任等作出具體規(guī)定。業(yè)內(nèi)認(rèn)為,管理新規(guī)的即將出臺,意味著深度合成將迎來規(guī)范化發(fā)展關(guān)鍵期。
中國工程院院士鄔賀銓認(rèn)為,深度合成的治理有兩項要點(diǎn):
第一,要持續(xù)發(fā)展技術(shù),不能“一刀切”地禁止,避免阻礙正向應(yīng)用與創(chuàng)新。第二,衍生出的安全問題要從源頭上解決,利用技術(shù)創(chuàng)新、技術(shù)對抗等方式,持續(xù)提升和迭代檢測技術(shù)的能力。
熱門