隨著年初ChatGPT上線火爆出圈,公眾對于人工智能的關注達到空前的高度。新技術浪潮給社會各界帶來沖擊的同時也引發(fā)了諸多爭議和討論:第四次技術革命是否會真正顛覆日常生活,人類是否有一天將被AI取代,人工智能技術在各領域的推廣和應用帶來的風險要如何應對?
【資料圖】
7月7日,世界人工智能大會在上海舉行,由聯(lián)合清華大學人工智能國際治理研究院主辦,中國科協(xié)-復旦大學科技倫理與人類未來研究院和上海智能實驗室協(xié)辦的“人工智能創(chuàng)新與治理”分論壇上,多位專家學者就上述議題進行討論。
與會者普遍認為,與此前的人工智能技術相比,新興的生成式人工智能技術將顛覆人類與世界的關系,AI技術將成為未來各國競爭的核心關鍵技術。政府部門、業(yè)界不僅應思考AI未來可能的發(fā)展路徑,更要警惕可能帶來的諸如數據安全、偽造人臉的身份識別風險以及系列技術犯罪。
世界人工智能大會“人工智能創(chuàng)新與治理”分論壇現(xiàn)場。
生成式AI正在改變什么
上億人可能正在使用AI技術
因人工智能技術的飛躍式發(fā)展,以ChatGPT為代表的生成式AI技術正引發(fā)大量的討論,生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內容的技術,提供生成式人工智能產品或服務。如今這一項技術正在逐漸深入日常生活,在學習和工作場景中,越來越多人開始使用生成式人工智能技術來生產文字、圖片、視頻等內容。
此項新技術與此前的人工智能技術有何不同,將給人類世界帶來哪些改變?論壇現(xiàn)場,復旦大學哲學學院教授、中國科協(xié)-復旦大學科技倫理與人類未來研究院院長王國豫認為,此輪人工智能技術有三個特點,即可泛化性、可及性與顛覆性。由于大模型的參數量極大,學習能力更強,適用性也更為廣泛,而ChatGPT的出現(xiàn)及大量使用,意味著公眾相較以往能更便利地使用AI技術,它具有顛覆性,不僅突破以往的技術框架,也將改變我們的生活和存在方式,改變人類和世界的關系。
復旦大學哲學學院教授、中國科協(xié)-復旦大學科技倫理與人類未來研究院院長王國豫。
同濟大學法學院助理教授朱悅認為,與以往相比,此輪人工智能浪潮覆蓋和影響的人群更為廣泛,“過去的人機互動被人關注,但可能全世界只有幾千人在使用新技術,但在今天,可能有數千萬甚至上億人在使用新的人工智能技術。”
同濟大學法學院助理教授朱悅。
毋庸置疑,新技術的興起也正在引發(fā)行業(yè)變革,云計算公司紛紛跟進、開發(fā)、銷售基于大模型的產品,電子商務公司希望借生成式人工智能改變經營模式,產業(yè)正因新技術的發(fā)展而涌現(xiàn)更為強勁的動力。曠視聯(lián)合創(chuàng)始人、CTO唐文斌提及,隨著大語言模型的不斷演變,數據量不斷累積,目前各類垂直領域仍在使用的適合特定產業(yè)和內容的人工智能技術模型未來可能發(fā)展為真正具備感知、推理、決策等能力的類似人腦的統(tǒng)一大模型,這將對產業(yè)帶來巨大的發(fā)展可能性。
曠視聯(lián)合創(chuàng)始人、CTO唐文斌。
中科深智CEO成維忠認為,過去半年,人工智能行業(yè)正迎來空前的蓬勃發(fā)展,但行業(yè)也不可避免地面臨一些懸而未決的難題:未來人工智能技術的發(fā)展之路要如何向前,是探索單純的大語言模型還是要以多模態(tài)為重點值得思考,尤其是有觀點提出以大語言模型為主體的基礎大模型可能最終并不能形成像人類一樣思考、學習和執(zhí)行多種任務的通用人工智能后,這些難題還需業(yè)界重新凝聚共識共同探索解決之道。
中科深智CEO成維忠。
AI會取代人類嗎?
專家:暫時難以替代,呼吁擁抱變化
在生成式AI出現(xiàn)之后,AI會否替代人類一度成為輿論熱議的話題,在現(xiàn)場不止一位專家提及,AI技術目前仍未達到能取代人類的能力,“它的邏輯判斷能力、情感分析能力,暫時還不太可能取代人類。”公安部第三研究所網絡安全法律研究中心主任黃道麗說。
公安部第三研究所網絡安全法律研究中心主任黃道麗。
成維忠則提及掌上電腦創(chuàng)始人杰夫.霍金斯曾提出的一個觀點:人的智能分為舊腦和新腦智能,人類的愛和恨都由舊腦智能決定,而現(xiàn)存的人工智能技術均是基于新腦智能在運行,“從這一觀點出發(fā),AI不會取代人類,也不會出現(xiàn)攻擊人類的問題,因為它沒有愛,也沒有恨。AI技術帶來的機遇遠遠大于挑戰(zhàn),個人要積極擁抱變化。”
王國豫分析稱,一些專業(yè)的需要創(chuàng)造性思維的崗位不會被AI取代,但一些技術含量不高的崗位可能有被AI取代的風險?!拔磥砀匾氖墙逃到y(tǒng)如何培養(yǎng)更具有創(chuàng)新能力的人才,教會我們如何通過提升數字素養(yǎng),更好地適應AI時代的需要?!?/p>
唐文斌也認為,人類應該在現(xiàn)階段思考如何更好的利用AI技術武裝自己,產生更強的生產力,而不是一味抗拒新技術的來臨。
“AI不僅是一種技術工具,我們或許可以將它作為一種探索游戲,希望AI能讓大家無聊的無意義的生活變得有趣,而讓有趣有意義的事變得簡單。”朱悅說。
AI技術也可被“賦能”犯罪技術
未來AI會失控嗎?
隨著AI新浪潮的興起,它所引發(fā)的技術犯罪、倫理難題始終是公眾熱議的話題,如何防范新技術帶來的風險?
黃道麗認為,以GhatGPT所代表的LLM技術已成為各國新賽道。各國政府均在積極鼓勵人工智能產業(yè)的發(fā)展,同時也普遍意識到需要進行監(jiān)管防范其可能引發(fā)的風險,“今年以來,全球人工智能立法進程明顯提速,可以說,各國監(jiān)管治理都在追趕人工智能的演化速度”。除了業(yè)界普遍提及的AI所引發(fā)的隱私風險、倫理風險、社會風險等問題,公安機關最關注的是犯罪利用風險,即AI技術也可被“賦能”犯罪技術,形成新的網絡安全威脅甚至可能成為“犯罪基礎設施”。
她舉例,今年,山東青島出現(xiàn)一起電信詐騙真實案例,騙子通過木馬軟件監(jiān)聽受害者的生活,收集受害者親人的聲音,利用AI變聲軟件進行偽裝虛報病情,并劫持手機通信,使受害者打給親人的電話轉接到騙子那里,“由于人工智能模仿的對象是受害者熟悉且信任的人,會在某種程度上降低他們的警覺性?!?/p>
黃道麗稱,生成式人工智能技術可能改變以人為主導的社會,“早幾年我們分析弱人工智能階段的法律風險和犯罪事件,尚可以追溯或歸責于人(生產者等),法律問題或犯罪打擊的解決都取決于我們最終能否識別此人與彼人。但現(xiàn)在我會開始擔心未來找不到某項行為、活動背后的那個人(主體),AI技術與人或他人的主體性混合在一起逐漸變得模糊,而依靠現(xiàn)有的規(guī)則想要去有效治理,無疑更困難?!?/p>
成維忠認為,AI技術是中性的,在AGI(Artificial General Intelligence,即“通用人工智能”,是指一種能夠像人類一樣思考、學習和執(zhí)行多種任務的人工智能系統(tǒng))時代來臨以前,真正應該警惕的是人類利用技術作惡?!氨热鐐卧靸热?,偽造人臉,政府部門和行業(yè)要從現(xiàn)在開始探討如何防范風險,而不能等問題嚴重了再想辦法解決?!?/p>
朱悅則提及一個關鍵問題,目前人工智能治理中AI自主承擔的比例越來越高,“我們都說要對AI進行治理,但治理過程中一些企業(yè)可能會利用生成式AI做大量的知識積累,發(fā)揮它的培訓功能,讓它參與倫理決策,甚至還有一些更激進的企業(yè),希望能直接訓練出一個能做出倫理決策的模型,無論是學術研究、業(yè)界培訓,還是合規(guī)評審,我們可以想一想,AI在其中所占據的比例是不是越來越高?很多人都認為,一旦AI比人類聰明就將失控,現(xiàn)在的AI治理,它自己參與了很多,某種意義上其實也失控了?!?/p>
采寫:南都記者蔣小天發(fā)自上海
標簽:
熱門