阿里、清華、RealAI 發(fā)布全新AI魯棒性評(píng)測(cè)平臺(tái) 免費(fèi)開放18個(gè)對(duì)抗訓(xùn)練模型

　　7月19日下午消息，為準(zhǔn)確衡量AI模型的效果和魯棒性，7月18日，清華大學(xué)、阿里安全、RealAI發(fā)布了全新版本的AI安全對(duì)抗攻防基準(zhǔn)平臺(tái)，提前給AI找好“陪練”和“標(biāo)尺”，打造更健壯可靠的AI。據(jù)介紹，相較于去年三方發(fā)布的AI Benchmark 1.0，今年AI Benchmark 2.0包含全面、系統(tǒng)的攻防基準(zhǔn)，更符合工業(yè)界的評(píng)測(cè)基準(zhǔn)，更貼近線上的攻擊評(píng)測(cè)基準(zhǔn)。

　　“新平臺(tái)從原來只有CIFAR10數(shù)據(jù)上的實(shí)驗(yàn)，拓展到了ImageNet 百萬級(jí)數(shù)據(jù)集上的攻防評(píng)測(cè)，更加貼近工業(yè)界的實(shí)際場(chǎng)景。今年還覆蓋了對(duì)模型未知情況下的遷移攻擊，貼近線上攻擊評(píng)測(cè)。此外，今年還增加了分布外的魯棒性評(píng)測(cè)，更加全面地評(píng)估模型魯棒性。”阿里高級(jí)安全專家越豐介紹。

　　清華大學(xué)計(jì)算機(jī)系副研究員蘇航介紹，魯棒性benchmark的構(gòu)建對(duì)評(píng)估人工智能模型的安全風(fēng)險(xiǎn)、推動(dòng)該領(lǐng)域的發(fā)展具有重要意義。AI Benchmark 2.0將對(duì)使用者免費(fèi)提供18個(gè)ImageNet上的對(duì)抗訓(xùn)練模型，包含更多的攻擊場(chǎng)景，覆蓋幾十種典型的攻防算法，并提供了SOTA的魯棒模型，為人工智能安全的研究具有一定的推動(dòng)作用，可讓研究人員發(fā)現(xiàn)AI被攻擊后產(chǎn)生的問題，為行業(yè)提供參考，并將AI學(xué)術(shù)研究引導(dǎo)至更貼近實(shí)際場(chǎng)景的應(yīng)用研究。