上海人工智能實(shí)驗(yàn)室（上海AI實(shí)驗(yàn)室）與知名科技企業(yè)OPPO近日正式簽署合作協(xié)議，雙方將圍繞人工智能安全領(lǐng)域展開深度協(xié)作。此次合作以構(gòu)建安全可信的AI生態(tài)為核心目標(biāo)，重點(diǎn)聚焦多語言安全語料庫建設(shè)、大模型安全防護(hù)、算法可靠性優(yōu)化及內(nèi)容安全治理四大方向。

根據(jù)協(xié)議內(nèi)容，雙方將聯(lián)合開發(fā)覆蓋中英日韓等主流語種的安全語料資源庫，通過標(biāo)準(zhǔn)化數(shù)據(jù)采集與脫敏處理流程，為AI訓(xùn)練提供高質(zhì)量安全樣本。在模型安全層面，合作團(tuán)隊(duì)將建立全生命周期防護(hù)體系，涵蓋模型訓(xùn)練、部署到應(yīng)用環(huán)節(jié)的漏洞檢測與修復(fù)機(jī)制，同時(shí)開發(fā)針對深度偽造內(nèi)容的識別算法。

算法安全研究方面，雙方將重點(diǎn)攻關(guān)模型魯棒性增強(qiáng)技術(shù)，通過構(gòu)建對抗樣本測試平臺，提升AI系統(tǒng)在復(fù)雜場景下的決策穩(wěn)定性。針對內(nèi)容安全治理，合作方計(jì)劃開發(fā)多模態(tài)內(nèi)容審核系統(tǒng)，實(shí)現(xiàn)對文本、圖像、視頻的實(shí)時(shí)風(fēng)險(xiǎn)識別，并建立動(dòng)態(tài)更新的安全策略庫。

此次戰(zhàn)略協(xié)作標(biāo)志著產(chǎn)業(yè)界與科研機(jī)構(gòu)在AI安全領(lǐng)域的創(chuàng)新聯(lián)動(dòng)。上海AI實(shí)驗(yàn)室在基礎(chǔ)研究方面的技術(shù)積累，與OPPO在終端設(shè)備部署的實(shí)踐經(jīng)驗(yàn)形成互補(bǔ)，雙方將通過聯(lián)合實(shí)驗(yàn)室模式推動(dòng)技術(shù)成果轉(zhuǎn)化，為智能終端、智慧城市等場景提供安全保障方案。合作初期將優(yōu)先落地智能助手、影像處理等消費(fèi)級應(yīng)用場景的安全升級。