人工智能Artificial Intelligence， AI在當(dāng)代生活中，服務(wù)于人們衣食住行的方方面面，已不是陌生的技術(shù)名詞。在國(guó)家戰(zhàn)略層面，AI已成為迎接新一輪科技革命浪潮和產(chǎn)業(yè)變革機(jī)遇的重要引擎。在AI推動(dòng)社會(huì)經(jīng)濟(jì)各個(gè)領(lǐng)域從數(shù)字化、信息化向智能化發(fā)展的同時(shí)，也面臨著潛在的安全性威脅。對(duì)AI安全的前瞻性研究與布局，已是近年來(lái)學(xué)術(shù)界和工業(yè)界越發(fā)重視的課題。

近期，螞蟻安全天塹實(shí)驗(yàn)室聯(lián)合浙江大學(xué)網(wǎng)絡(luò)空間學(xué)院院長(zhǎng)任奎教授團(tuán)隊(duì)，共同頒布了《人工智能安全白皮書(shū)2020》，從學(xué)界、業(yè)界的共同視角全方位闡述人工智能安全。該白皮書(shū)耗費(fèi)近一年時(shí)間研究撰寫(xiě)完成，完整版篇幅將近6萬(wàn)字。

螞蟻安全天塹實(shí)驗(yàn)室負(fù)責(zé)人劉焱介紹，此次《人工智能安全白皮書(shū)2020》的編寫(xiě)聚焦于AI技術(shù)中模型、數(shù)據(jù)與承載系統(tǒng)的安全問(wèn)題，首先介紹了AI模型、數(shù)據(jù)與承載系統(tǒng)面臨的安全威脅，然后逐一介紹針對(duì)這些威脅的防御技術(shù)，最后面向未來(lái)AI安全技術(shù)的發(fā)展趨勢(shì)，提出AI應(yīng)用的一站式安全解決方案——AI模型安全開(kāi)發(fā)生命周期（AISDL）。

螞蟻集團(tuán)副總裁韋韜表示，“AI是數(shù)字新基建戰(zhàn)略的重要組成部分，但AI技術(shù)還面臨著很多的挑戰(zhàn)。比如今天的深度學(xué)習(xí)，就像一個(gè)有特異功能的孩子，有些事情做的非常好，比大人還好。但是你不知道他什么時(shí)候突然就不高興了，不做了;也不知道什么時(shí)候，他可能為了一顆糖果就被騙了。目前各行各業(yè)都在大力推廣AI的應(yīng)用，但同時(shí)也要對(duì)AI技術(shù)所面臨的挑戰(zhàn)和風(fēng)險(xiǎn)有著清醒的認(rèn)知。本次白皮書(shū)的發(fā)布，系統(tǒng)性地總結(jié)了學(xué)術(shù)界與工業(yè)界對(duì)AI安全與隱私保護(hù)技術(shù)的相關(guān)研究成果，希望能成為AI安全領(lǐng)域研究的重要參考，為推動(dòng)行業(yè)共同應(yīng)對(duì)AI技術(shù)所面臨的安全與隱私威脅，貢獻(xiàn)一份力量?！?/p>

《人工智能安全白皮書(shū)2020》也是“浙江大學(xué)-螞蟻集團(tuán)金融科技研究中心”——“數(shù)據(jù)安全與隱私保護(hù)實(shí)驗(yàn)”的研究成果之一。2019年，螞蟻集團(tuán)與浙江大學(xué)合作共建的“浙江大學(xué)-螞蟻金服金融科技研究中心——數(shù)據(jù)安全與隱私保護(hù)實(shí)驗(yàn)室”，共同研究數(shù)字金融面臨的數(shù)據(jù)安全與隱私保護(hù)問(wèn)題，聯(lián)合推進(jìn)前沿科技研究，聚焦安全多方計(jì)算、可信環(huán)境、數(shù)據(jù)安全等領(lǐng)域，探索新技術(shù)在大數(shù)據(jù)場(chǎng)景下的安全用，推動(dòng)產(chǎn)學(xué)研協(xié)同和成果創(chuàng)新，培養(yǎng)適應(yīng)未來(lái)需要的實(shí)踐人才。

浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院院長(zhǎng)任奎表示，“AI安全的命題是國(guó)家人工智能戰(zhàn)略背景下的長(zhǎng)期命題，推動(dòng)AI安全技術(shù)的切實(shí)發(fā)展，需要學(xué)術(shù)界和工業(yè)界的緊密合作。此次與螞蟻安全實(shí)驗(yàn)室共同研究并發(fā)布AI安全白皮書(shū)（2020），正是學(xué)術(shù)界與工業(yè)界攜手合作的又一次成功實(shí)踐，希望這本白皮書(shū)的研究成果對(duì)學(xué)界和各行各業(yè)的AI安全工作都能有借鑒意義?！?/p>

螞蟻安全天塹實(shí)驗(yàn)室

螞蟻安全天塹實(shí)驗(yàn)室隸屬于螞蟻安全九大實(shí)驗(yàn)室之一。螞蟻安全天塹實(shí)驗(yàn)室致力于AI安全與隱私保護(hù)領(lǐng)域的研究、技術(shù)突破和人才培育，并以用戶隱私保護(hù)為核心任務(wù)，打造螞蟻集團(tuán)全球領(lǐng)先的信息安全能力。