ZAO可能產(chǎn)生的潛在危險(xiǎn)和不安全性,也是人工智能為社會(huì)提供產(chǎn)品的同時(shí)人們必然面臨的挑戰(zhàn)。
名為ZAO的AI換臉軟件紅遍網(wǎng)絡(luò),然而好景不長(zhǎng),一夜爆紅“ZAO”的微信分享鏈接目前已經(jīng)被停止訪問了。關(guān)于“ZAO”刷屏后所帶來的隱私焦慮與風(fēng)險(xiǎn)擔(dān)憂,仍在蔓延。
實(shí)際上,ZAO軟件就是一款經(jīng)改造的換臉APP,2017年發(fā)源于美國(guó),稱Deepfakes,是深度機(jī)器學(xué)習(xí)(deep machine learning)和假照片(fake photo)的簡(jiǎn)稱(合稱),最生動(dòng)的稱呼是深度(照片)造假。
既然是造假,當(dāng)然要禁止。它不僅可能產(chǎn)生因個(gè)人信息泄露帶來的種種不安全,如果涉及犯罪,輕而易舉的換臉操作也會(huì)讓真假罪犯難辨,同時(shí)加大司法成本。當(dāng)然,在一些國(guó)家,如美國(guó),換臉還可能成為反恐的夢(mèng)魘,既可以讓恐怖分子很容易通過換臉作案和逃脫,也加大了安全部門反恐的難度。
所有這些問題都是ZAO和相似軟件可能產(chǎn)生的潛在危險(xiǎn)和不安全性,這也是人工智能為社會(huì)提供產(chǎn)品的同時(shí)人們必然面臨的挑戰(zhàn)。因此,如何監(jiān)管才是最現(xiàn)實(shí)和最嚴(yán)峻的問題。
現(xiàn)在ZAO軟件就面臨著管理者禁與放的困難抉擇。而對(duì)于換臉,美國(guó)歐盟等認(rèn)為,即便是潛在的威脅,也極其嚴(yán)重,必須先出手防范。
今年1月28日,美國(guó)卡內(nèi)基國(guó)際和平基金會(huì)專門發(fā)表文章《國(guó)家如何應(yīng)對(duì)Deepfakes?》,指出,以Deepfakes為代表的換臉技術(shù)具有一系列潛在的危害,包括煽動(dòng)政治暴力、破壞選舉、擾亂外交關(guān)系、提供虛假證據(jù)并干擾司法、實(shí)施敲詐等,希望各國(guó)明確定義Deepfakes的不正當(dāng)使用,亟須社會(huì)定義什么可以接受,什么不可以接受,這既有利于社會(huì)和法律的管理,也有利于社交媒體規(guī)范其平臺(tái),管理網(wǎng)上內(nèi)容。
今年6月13日,美國(guó)眾議院情報(bào)委員會(huì)對(duì)Deepfakes舉行了聽證會(huì),會(huì)上該委員會(huì)主席、眾議員亞當(dāng)·希夫稱,篡改視頻的傳播為2020年總統(tǒng)大選帶來了一種“噩夢(mèng)般的”場(chǎng)景,讓議員、新聞媒體和公眾“難以分辨什么是真實(shí)的,什么是虛假的”。因此,他和美國(guó)馬里蘭法學(xué)院教授達(dá)尼埃爾·西特龍建議國(guó)會(huì)考慮對(duì)《通信規(guī)范法》第230條(互聯(lián)網(wǎng)服務(wù)不必為其用戶的行為負(fù)責(zé))進(jìn)行修改,以打擊Deepfakes,保護(hù)用戶免受假新聞的誤導(dǎo)。
針對(duì)Deepfakes換臉技術(shù)產(chǎn)生的具有破壞性的危險(xiǎn)性內(nèi)容,歐盟也在2019年初出臺(tái)了應(yīng)對(duì)指南,以幫助公眾分辨某條信息的來源,信息是如何產(chǎn)生的以及信息是否值得信賴。
可以看到,對(duì)換臉技術(shù)的潛在危險(xiǎn)極為重視的美國(guó)和歐盟現(xiàn)在還沒有出臺(tái)法律予以禁止,只是在進(jìn)行論證。但迫于壓力,美國(guó)的Reddit上關(guān)于換臉技術(shù)的討論版被刪除,換臉技術(shù)也在美國(guó)被全網(wǎng)封禁,其GitHub開源代碼也被清除。
盡管目前看來,ZAO軟件還沒有造成實(shí)際上的危害,但是,正如網(wǎng)友所指出,一個(gè)潛在危害非常實(shí)在:“有手機(jī)號(hào),有面部圖像,通過技術(shù)合成,犯罪分子可以替你和你家人通話了。”因此,公眾的擔(dān)心并非杞人憂天,有必要及早以明確的法律條款予以規(guī)范。
標(biāo)簽:
熱門
關(guān)于我們| 廣告報(bào)價(jià)| 本站動(dòng)態(tài)| 聯(lián)系我們| 版權(quán)所有| 信息舉報(bào)|
聯(lián)系郵箱:905 144 107@qq.com
同花順經(jīng)濟(jì)網(wǎng) 豫ICP備20014643號(hào)-14
Copyright©2011-2020 www.09115.cn All Rights Reserved