999精品,丝袜综合,大陆老熟妇性,中国老女人AV,亚洲精品国产第一区二区三区

為大模型筑起安全之盾 瑞萊智慧AI安全平臺(tái)RealSafe3.0發(fā)布
發(fā)布時(shí)間:2023-07-11 17:22:44 文章來源:上海證券報(bào)·中國(guó)證券網(wǎng)
當(dāng)前位置: 主頁 > 資訊 > 國(guó)內(nèi) > 正文


(資料圖片)

近日,清華大學(xué)人工智能研究院孵化企業(yè)瑞萊智慧在2023世界人工智能大會(huì)上,發(fā)布全新人工智能安全平臺(tái)RealSafe3.0,為發(fā)展中的大模型系好“安全帶”、把好“方向盤”。

瑞萊智慧聯(lián)合創(chuàng)始人、算法科學(xué)家蕭子豪認(rèn)為,大模型“落地難”的本質(zhì)在于,當(dāng)前仍處于“野蠻生長(zhǎng)”階段,還沒有找到場(chǎng)景、風(fēng)險(xiǎn)和規(guī)范三者的平衡點(diǎn)。

而RealSafe3.0集成主流及RealAI獨(dú)有的世界領(lǐng)先安全評(píng)測(cè)技術(shù),能提供端到端的模型安全性測(cè)評(píng)解決方案,解決當(dāng)前通用大模型安全風(fēng)險(xiǎn)難以審計(jì)的痛點(diǎn)問題。

瑞萊智慧介紹,RealSafe3.0相較上一版本,新增對(duì)于通用大模型的評(píng)測(cè),覆蓋數(shù)據(jù)安全、認(rèn)知任務(wù)、通用模型特有漏洞、濫用場(chǎng)景等近70個(gè)評(píng)測(cè)維度,全方位、多維度地評(píng)測(cè)通用大模型性能,未來會(huì)持續(xù)擴(kuò)增測(cè)評(píng)維度數(shù)量。

“評(píng)測(cè)只是手段,幫助通用大模型提升其自身安全性才是核心目的?!笔捵雍勒f,不能因?yàn)橛斜患夹g(shù)反噬的擔(dān)憂就止步不前,創(chuàng)造新技術(shù)和控制技術(shù)危害應(yīng)該同步進(jìn)行。

此外,瑞萊智慧帶來能防范生成式人工智能惡意濫用的DeepReal2.0。據(jù)悉,DeepReal此前名為深度偽造內(nèi)容檢測(cè)平臺(tái),現(xiàn)已更名為生成式人工智能內(nèi)容檢測(cè)平臺(tái)。

DeepReal2.0除了能檢測(cè)Deepfake內(nèi)容,還能檢測(cè)Diffusion、LLM兩類新方法生成的內(nèi)容,支持對(duì)圖像、視頻、音頻、文本進(jìn)行是否偽造的檢測(cè),應(yīng)用場(chǎng)景包括打擊網(wǎng)絡(luò)詐騙和聲譽(yù)侵害行為、檢測(cè)網(wǎng)絡(luò)內(nèi)容合規(guī)性、檢測(cè)音視頻物證真實(shí)性等,可對(duì)生成式人工智能技術(shù)濫用行為進(jìn)行管控和治理。

標(biāo)簽:

最近更新