(資料圖片)
近日,清華大學(xué)人工智能研究院孵化企業(yè)瑞萊智慧在2023世界人工智能大會(huì)上,發(fā)布全新人工智能安全平臺(tái)RealSafe3.0,為發(fā)展中的大模型系好“安全帶”、把好“方向盤”。
瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪認(rèn)為,大模型“落地難”的本質(zhì)在于,當(dāng)前仍處于“野蠻生長(zhǎng)”階段,還沒有找到場(chǎng)景、風(fēng)險(xiǎn)和規(guī)范三者的平衡點(diǎn)。
而RealSafe3.0集成主流及RealAI獨(dú)有的世界領(lǐng)先安全評(píng)測(cè)技術(shù),能提供端到端的模型安全性測(cè)評(píng)解決方案,解決當(dāng)前通用大模型安全風(fēng)險(xiǎn)難以審計(jì)的痛點(diǎn)問題。
瑞萊智慧介紹,RealSafe3.0相較上一版本,新增對(duì)于通用大模型的評(píng)測(cè),覆蓋數(shù)據(jù)安全、認(rèn)知任務(wù)、通用模型特有漏洞、濫用場(chǎng)景等近70個(gè)評(píng)測(cè)維度,全方位、多維度地評(píng)測(cè)通用大模型性能,未來會(huì)持續(xù)擴(kuò)增測(cè)評(píng)維度數(shù)量。
“評(píng)測(cè)只是手段,幫助通用大模型提升其自身安全性才是核心目的?!笔捵雍勒f,不能因?yàn)橛斜患夹g(shù)反噬的擔(dān)憂就止步不前,創(chuàng)造新技術(shù)和控制技術(shù)危害應(yīng)該同步進(jìn)行。
此外,瑞萊智慧帶來能防范生成式人工智能惡意濫用的DeepReal2.0。據(jù)悉,DeepReal此前名為深度偽造內(nèi)容檢測(cè)平臺(tái),現(xiàn)已更名為生成式人工智能內(nèi)容檢測(cè)平臺(tái)。
DeepReal2.0除了能檢測(cè)Deepfake內(nèi)容,還能檢測(cè)Diffusion、LLM兩類新方法生成的內(nèi)容,支持對(duì)圖像、視頻、音頻、文本進(jìn)行是否偽造的檢測(cè),應(yīng)用場(chǎng)景包括打擊網(wǎng)絡(luò)詐騙和聲譽(yù)侵害行為、檢測(cè)網(wǎng)絡(luò)內(nèi)容合規(guī)性、檢測(cè)音視頻物證真實(shí)性等,可對(duì)生成式人工智能技術(shù)濫用行為進(jìn)行管控和治理。
標(biāo)簽:
熱門