近期,人工智能公司OpenAI推出的聊天機器人ChatGPT(Generative Pre-trained Transformer,聊天生成預訓練轉換器)備受關注。該程序基于GPT-3.5架構的大型語言模型,具有較強的內容生產能力與學習強化能力,現(xiàn)已能承擔多輪文本對話問答,未來或將延伸出圖片、視頻等多模態(tài)功能。專家預測其具有強大的潛力,可以升級互聯(lián)網基礎性應用比如更迭搜索引擎,可以改變內容運營模式如社交媒體賬號運營,可以影響智能化決策如電商購物決策。從信息傳播角度看,以ChatGPT為代表的人工智能自動生成內容技術(AIGC)正在重構信息生產、流通、消費流程,它揭開了智能傳播大規(guī)模應用的序幕,同時也引發(fā)了國際社會對隱蔽于技術之后的偏見歧視、違規(guī)濫用、有意欺詐、政治造謠、偽造身份等問題的擔憂。從國際傳播角度看,生成式人工智能所擁有的傳播能力將改變國際傳播的生態(tài),一方面帶來內容生產潛在機遇,另一方面也引致認知重塑、價值固化的風險。從全球治理角度看,AIGC的發(fā)展對國際沖突管控,網絡安全和數(shù)字平等議題都提出了新的挑戰(zhàn)。
一、生成式人工智能的國際傳播能力
(資料圖片)
ChatGPT并非渠道和平臺,而是獨立的傳播者。它已經展現(xiàn)出并正逐漸發(fā)展出信息生產能力、接近用戶能力、固化傾向能力和塑造認知能力,將對國際傳播生態(tài)產生深刻影響。
(一)“無所不能”的智能生產
生成式人工智能擁有人工書寫難以匹敵的信息生產能效。在國際新聞供給方面,可以有效減少國際資訊檢索難度和語際轉換壓力,大規(guī)模應用后能夠以較低的成本、極高的效率面向全球多語種受眾群體開展一對一傳播。在新聞形式創(chuàng)新方面,能有機整合數(shù)據(jù)、圖表、交互程序等,進一步加快數(shù)據(jù)新聞、新聞游戲等新聞范式興起,增強了新聞產品的新穎性與吸引力。在親密情感互動方面,能夠展現(xiàn)出人格化特征,如積極主動、有責任心、可溝通性等,不僅能滿足用戶的信息使用需求,還可能培養(yǎng)情感依賴。通過上述高效率、多模態(tài)、人格化的信息供給,生成式人工智能看上去“無所不能“。
(二)“不加思索”的使用習慣
與過往所開發(fā)的智能語言助手相比,ChatGPT擁有更為擬人化的互動感,可以通過實時對話精準、動態(tài)對接用戶信息需求,其多語種溝通技術也能為用戶的跨國信息交往提供便利,天然具備接近用戶的能力。ChatGPT為代表的生成式人工智能不同于現(xiàn)階段仍然以一對多為特征的“精準傳播”,而是直接進入一對一服務模式,介入性更強,控制力更強,更容易培養(yǎng)用戶的信息接觸路徑依賴,未來有望成為人機交互的第一入口,導致用戶不假思索地使用,長此以往或將形成新的渠道壟斷與智能鴻溝,引致新的數(shù)字霸權。
(三)“不由自主”的態(tài)度認可
在信息呈現(xiàn)方面,ChatGPT能夠多角度、多維度回答提問,能為具有初步信息需求的用戶提供充足內容,也能為具有深度信息需求的用戶提供具有啟發(fā)性的架構。一旦形成用戶使用依賴,極有可能通過提供看似不帶情感、純粹基于技術的信息整合和闡釋架構,隱蔽其“預設立場”“固化傾向”的能力。事實上,ChatGPT生成的內容基于對大量互聯(lián)網語料的汲取學習。據(jù)統(tǒng)計,全球訪問量前一百萬的互聯(lián)網網站中,將近60%的內容是英文的,中文內容還不到1.5%,其中簡體中文內容更少且質量不高。不難推測,ChatGPT在自主訓練的過程中使用的語料大部分是英文,然后是俄語,德語,西班牙,法語等?;ヂ?lián)網簡體中文內容存在內容剽竊、抄襲、洗稿,廣告泛濫等問題,非常不利于ChatGPT學習和運用。盡管ChatGPT有意回避自我表態(tài),在被問及需要闡釋個人意見、預測未來事件走向時,往往答道:“ChatGPT作為一個語言模型,無法表達意見或情緒,也沒有能力預測未來”,但學習的對象決定了它的信息檢索和整合不可避免帶有來源信息的預設立場和價值觀,回答本身就是對某些價值立場的傳達和固化,會令忠實用戶的認知和態(tài)度不由自主受其影響。比如有網友測試,在詢問新冠病毒起源時,ChatGPT的回答是起源于中國武漢。
(四)“不容置疑”的認知依賴
與算法推薦根據(jù)用戶行為進行數(shù)據(jù)畫像,向用戶推送信息的方式相比,對ChatGPT的使用是在用戶自我需求驅使下的主動行為。主動獲取的信息會被用戶認為是“我想要的”“我認可的”而不是“讓我看的““我質疑的”,長期接收包含價值偏向的信息,可能令用戶形成對ChatGPT生成內容不容置疑的認知依賴。
二、生成式人工智能的潛在治理風險
瑞銀集團的研究報告顯示,ChatGPT在2022年11月底推出后,到2023年1月的月活躍用戶數(shù)預計已達1億,成為歷史上用戶增長最快的消費應用。在如此短的時間積聚起龐大活躍的全球用戶群體,讓生成式人工智能有可能成為“灰犀?!?,引發(fā)虛假信息泛濫,干擾輿論導向,危害網絡安全,挑動價值對立,制造新的不平等等風險。
(一)成為輿論認知戰(zhàn)工具
科技追求向善,但對技術的運用可能會讓ChatGPT有武器化的風險。ChatGPT具有先進的深度神經網絡技術架構和智能化、擬人化的互動真實感,存在被用作國際信息戰(zhàn)、輿論戰(zhàn)、認知戰(zhàn)新工具的隱憂。首先,ChatGPT具備強大的信息生產和結構文本的能力,能源源不斷地生產各類真假難辨的信息,影響國際輿論。美國新聞可信度評估與研究機構NewsGuard發(fā)現(xiàn),如果對ChatGPT提出充斥陰謀論和誤導性敘述的問題,它能在幾秒鐘內改編信息,產生大量令人信服卻無明確信源的內容。其次,ChatGPT的回答基于對國際互聯(lián)網已有語料的學習,來自歐美發(fā)達國家的英語信息占據(jù)主導地位,因此ChatGPT的回答不可避免是對某些價值觀的強化,無法提供價值觀的競爭。比如,有網友測試,當詢問ChatGPT,中國的民用氣球飄到美國時,美國可不可以將其擊落?回答是“可以”,而當詢問美國的民用氣球飄到中國時,中國能否將其擊落時,回答則變成了“不可以”,表現(xiàn)出典型的“雙標”立場。[https://www.163.com/dy/article/HTG3D7MH0552RR09.html]
(二)延宕國際沖突
國際互聯(lián)網中充斥著海量未經過濾、包含偏見的信息,其中以種族歧視和性別歧視居多。ChatGPT的回答基于對互聯(lián)網信息和受眾反饋的學習,不但影響認知,而且強化用戶的偏見。例如,英國媒體Insider報道稱“ChatGPT曾告訴用戶可以折磨某些少數(shù)民族人士”。[https://www.insider.com/chatgpt-is-like-many-other-ai-models-rife-with-bias-2023-1]由于目前沒有辦法對ChatGPT的回答進行前置性審核,在海量回答中,包含有嚴重錯誤的答案很容易逃逸。偏見性信息如果通過生成式人工智能在世界范圍內大量生產和流動,將會加劇分裂主義、種族偏見等國際沖突。盡管AI界已經意識到這一產品弊端,但當前的不良信息過濾技術還無法實現(xiàn)絕對可靠。過濾模型的迭代更新仍然依靠舊有數(shù)據(jù),隨著更多數(shù)據(jù)被投喂至ChatGPT,制造偏見和遏制偏見將成為一場持久的追趕游戲。
(三)危害網絡安全
ChatGPT兼具強大的數(shù)據(jù)汲取能力和文本寫作能力,可能會成為加劇黑客攻擊和危害網絡安全的推手。首先是竊取用戶信息。ChatGPT的底層工作邏輯是對海量互聯(lián)網數(shù)據(jù)的搜集分析,隨著語料庫的持續(xù)擴大,更多用戶信息將被竊取并傾注其中。私營公司壟斷消費者數(shù)據(jù)客觀存在用戶信息泄漏風險,從2022年底Facebook被曝泄露5億用戶數(shù)據(jù)事件中就可見一斑。第二是助推黑客犯罪。ChatGPT能夠迅速編寫釣魚郵件和惡意代碼,極易淪為黑客的武器化工具。據(jù)美國網絡安全新聞網站Dark Reading報道,黑客正在借ChatGPT竊取大型公司數(shù)據(jù),微軟、貝寶、谷歌和奈飛等著名跨國企業(yè)已經成為其目標。[https://www.darkreading.com/vulnerabilities-threats/bolstered-chatgpt-tools-phishing-surged-ahead]然而,當前網絡監(jiān)管工具未能實時跟上AI技術的發(fā)展步伐,讓黑客有了僥幸之機。
(四)加劇全球數(shù)字不平等
ChatGPT的普及在鞏固歐美跨國巨頭的市場主導地位的同時將進一步拉大南北國家間的數(shù)字鴻溝差距,并造成新的國際信息傳播不平等和數(shù)字剝削。一方面,ChatGPT作為西方科技與資本的混合產物,其發(fā)展有利于鞏固并擴大西方的國際話語權。其創(chuàng)造者人工智能企業(yè)OpenAI位于美國舊金山,該公司聯(lián)合創(chuàng)始人包括特斯拉創(chuàng)始人馬斯克(Elon Musk)。此外,據(jù)澎湃新聞報道,微軟正在洽談向OpenAI投資100億美元,打造在搜索領域的新增長點。另一方面,ChatGPT也正在制造新的數(shù)字剝削現(xiàn)象。據(jù)美國《時代周刊》報道,為了訓練ChatGPT,OpenAI雇傭了時薪不到2美元的肯尼亞外包勞工對龐大的數(shù)據(jù)庫進行手動標注,他們平均每小時最多要閱讀和標注超2萬個單詞
面對以ChatGPT為代表的生成式人工智能的挑戰(zhàn),未來一方面需聯(lián)合全球治理力量,謀求公平解決方案,防范虛假信息,侵犯隱私,偏見歧視,數(shù)字鴻溝等問題,號召全球共同應對認知塑造的風險挑戰(zhàn);另一方面應扶持本土有實力的企業(yè)開發(fā)人工智能內容生成平臺,加大互聯(lián)網簡體中文優(yōu)質內容的供給,借助新科技打開言說中國和認知爭奪的突破口,同時加強對公眾信息辨別能力的引導,預防技術沖擊帶來的輿論危機。
(本研究全文將于近期《對外傳播》雜志刊發(fā),作者周亭系中國傳媒大學政府與公共事務學院院長,蒲成系中國傳媒大學國際傳播白楊班博士研究生)
熱門