構(gòu)建人工智能基礎(chǔ)安全保障體系，促進(jìn)可信的人工智能健康發(fā)展任務(wù)非常迫切。

從自動(dòng)駕駛、AI醫(yī)療再到工業(yè)生產(chǎn)，以及我們生活的各個(gè)領(lǐng)域，AI正在展現(xiàn)巨大變革賦能的潛力。但是，隨著AI應(yīng)用的廣度和深度不斷拓展，諸如算法安全、數(shù)據(jù)歧視、數(shù)據(jù)濫用等諸多問(wèn)題也顯露出一些風(fēng)險(xiǎn)與隱患。從而，引發(fā)人們對(duì)人工智能信任的思考。

7月9日，在2021世界人工智能大會(huì)可信AI論壇上，《促進(jìn)可信人工智能發(fā)展倡議》（以下簡(jiǎn)稱“倡議”）正式發(fā)布。該倡議由可信AI論壇發(fā)起，聯(lián)合發(fā)布單位包括中國(guó)信通院、中國(guó)科學(xué)院自動(dòng)化研究所中英人工智能倫理與治理研究中心、京東探索研究院、螞蟻集團(tuán)等。

上述倡議旨在倡導(dǎo)政產(chǎn)學(xué)研各界加快形成國(guó)際協(xié)同治理共識(shí)，促進(jìn)社會(huì)對(duì)可信AI的理解和重視，充分挖掘人工智能的產(chǎn)業(yè)和社會(huì)價(jià)值。上海市經(jīng)濟(jì)和信息化委員會(huì)主任吳金城對(duì)21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示，發(fā)展可信AI，推動(dòng)人工智能的透明可視，安全可控，多元包容已成為全球共識(shí)，也是未來(lái)人工智能健康發(fā)展的必由之路。

他認(rèn)為有三種方式，一是推動(dòng)加密技術(shù)，安全多方計(jì)算、聯(lián)邦學(xué)習(xí)等安全技術(shù)的應(yīng)用。提升AI技術(shù)安全特性和數(shù)據(jù)保護(hù)能力。二是建立測(cè)試測(cè)評(píng)體系。加快構(gòu)建完善可信AI相關(guān)標(biāo)準(zhǔn)，研發(fā)創(chuàng)新測(cè)試測(cè)評(píng)技術(shù)。三是加快完善制度規(guī)范。在國(guó)家相關(guān)法律和上海市地方性法規(guī)框架下研究制定生物信息安全、數(shù)據(jù)安全、個(gè)人隱私等領(lǐng)域的法律法規(guī)，以制度保障推動(dòng)可信AI發(fā)展。

風(fēng)控不再是人與人的斗爭(zhēng)

事實(shí)上，當(dāng)我們把決策交給人工智能的時(shí)候，人工智能首先必須證明自己是值得信賴的。因此，基于此的可信任研究，就形成了全球共識(shí)。

工業(yè)和信息化部科技司高技術(shù)處處長(zhǎng)徐鵬表示，尤其是在與人類的生產(chǎn)生活密切相關(guān)安全領(lǐng)域的風(fēng)險(xiǎn)防范和挑戰(zhàn)，比如倫理道德、算法、個(gè)人信息的濫用和隱私的泄露以及相應(yīng)保護(hù)問(wèn)題，是現(xiàn)在大家關(guān)注熱點(diǎn)之一。由此可見(jiàn)，構(gòu)建人工智能基礎(chǔ)安全保障體系，促進(jìn)可信的人工智能健康發(fā)展任務(wù)非常迫切。

“未來(lái)的風(fēng)控將不再是人和人的斗爭(zhēng)，而是AI與AI的博弈?！蔽浵伡瘓F(tuán)副總裁、首席人工智能科學(xué)家漆遠(yuǎn)博士向21世紀(jì)經(jīng)濟(jì)報(bào)道記者透露，在支付寶上，每天上億筆交易背后，發(fā)起攻擊的早已不是散戶，而是專業(yè)的黑產(chǎn)團(tuán)伙。

為了應(yīng)對(duì)復(fù)雜多變的黑產(chǎn)攻擊，如何持續(xù)加強(qiáng)風(fēng)控模型的抗打擊能力，做到“魔高一尺，道高一丈”，成為擺在所有AI從業(yè)者面前的難題。

據(jù)了解，從2018年開(kāi)始，漆遠(yuǎn)與一批AI技術(shù)骨干，在人工智能模型算法中融入經(jīng)濟(jì)學(xué)“博弈理論”，開(kāi)發(fā)了一項(xiàng)業(yè)界全新的技術(shù)——“智能對(duì)抗”，即通過(guò)結(jié)合AI和博弈對(duì)抗，讓機(jī)器自動(dòng)且實(shí)時(shí)、動(dòng)態(tài)地對(duì)自身系統(tǒng)進(jìn)行安全性攻擊，從而提升模型能力，使模型處理結(jié)果更加準(zhǔn)確。

這一技術(shù)類似于金庸小說(shuō)里的“雙手互搏”。因其具有對(duì)風(fēng)險(xiǎn)知識(shí)形成感知、分析和預(yù)測(cè)的能力，未來(lái)將成為可信AI領(lǐng)域的核心安全技術(shù)。

在中國(guó)科學(xué)院自動(dòng)化研究所中英人工智能倫理與治理研究中心主任曾毅看來(lái)，可信人工智能系統(tǒng)，必須有在線連續(xù)學(xué)習(xí)和隨時(shí)糾正能力?！皬募夹g(shù)的角度看，最新人工智能技術(shù)進(jìn)展模型現(xiàn)在看來(lái)都是不可信的?，F(xiàn)在人工智能的技術(shù)，還不足夠談到真正的可信，所以，它是一個(gè)起始點(diǎn)。另外，可信人工智能絕對(duì)不僅僅是技術(shù)問(wèn)題，還有社會(huì)的視角。如何利用技術(shù)賦能跨文化的互信，在我看來(lái)是真正實(shí)現(xiàn)可信人工智能不得不做的事情，甚至是最后成功的關(guān)鍵?！?/p>

亟須建立行業(yè)標(biāo)準(zhǔn)

作為數(shù)字經(jīng)濟(jì)中“抵御風(fēng)險(xiǎn)”的關(guān)鍵，可信AI技術(shù)目前已在螞蟻集團(tuán)包括反欺詐、反洗錢、反賭博、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護(hù)在內(nèi)的多個(gè)風(fēng)控場(chǎng)景下落地。

除金融風(fēng)控場(chǎng)景外，可信AI技術(shù)還被廣泛應(yīng)用于數(shù)據(jù)隱私保護(hù)、金融科技服務(wù)等多個(gè)領(lǐng)域。今年6月，十三屆全國(guó)人大常委會(huì)第二十九次會(huì)議表決通過(guò)包括數(shù)據(jù)安全法在內(nèi)的多項(xiàng)法案及兩項(xiàng)決定。數(shù)據(jù)安全法第四條提出，維護(hù)數(shù)據(jù)安全，應(yīng)當(dāng)堅(jiān)持總體國(guó)家安全觀，建立健全數(shù)據(jù)安全治理體系，提高數(shù)據(jù)安全保障能力。

這標(biāo)志著，數(shù)據(jù)安全已經(jīng)上升到總體國(guó)家安全觀層面，與國(guó)家安全掛鉤。而各界對(duì)此密切關(guān)注。

“無(wú)論是AI還是科學(xué)技術(shù)，可信的方式有很多，像穩(wěn)定性、可解釋性、隱私保護(hù)、公平性，我們?nèi)绾伟堰@些綜合起來(lái)形成統(tǒng)一的共識(shí)體？”歐洲科學(xué)院外籍院士、澳大利亞科學(xué)院院士、悉尼大學(xué)教授陶大程提出了自己的問(wèn)題，由于缺乏可解釋性，也限制了人工智能更廣泛的應(yīng)用和賦能，比如說(shuō)無(wú)人駕駛車在道路上出現(xiàn)狀況了之后，該如何定責(zé)，因?yàn)闊o(wú)法解釋，駕駛員無(wú)法在短短幾秒鐘之內(nèi)，對(duì)道路產(chǎn)生判斷。

一定程度上來(lái)說(shuō)正是因?yàn)闃?biāo)準(zhǔn)的缺失，導(dǎo)致人工智能的應(yīng)用落地受到了限制。陶大程進(jìn)一步認(rèn)為，不管歐盟的GDPR也好，還是中國(guó)的隱私保護(hù)條例也好，都說(shuō)明用戶對(duì)數(shù)據(jù)使用要更謹(jǐn)慎，說(shuō)明了用戶對(duì)個(gè)人信息的保護(hù)，是有相當(dāng)?shù)臋?quán)利的。只有將上述四個(gè)能力綜合后，做到明確的責(zé)任，才能找到合適的方式度量可信人工智能。

毫無(wú)疑問(wèn)，人工智能在更多領(lǐng)域起到的作用舉足輕重，例如醫(yī)療診斷、無(wú)人駕駛等場(chǎng)景下，很可能一個(gè)微小算法錯(cuò)誤，都可能導(dǎo)致致命災(zāi)難。因此，制定一定的量化指標(biāo)和行業(yè)標(biāo)準(zhǔn)，在產(chǎn)品研發(fā)、評(píng)測(cè)的過(guò)程中，才能更加嚴(yán)格評(píng)估和遵循規(guī)則。

智能時(shí)代已加速到來(lái)，科技向善是科學(xué)技術(shù)發(fā)展最根本的要義。“向善主要是指兩個(gè)方面，一是指你的意圖好還是壞？另外一個(gè)方面是，你做這一個(gè)事情的后果是什么。技術(shù)的發(fā)展也帶來(lái)了公平的問(wèn)題，真正的科技向善，應(yīng)該是賦予每個(gè)人更多發(fā)展的權(quán)利，每個(gè)人跟得上這個(gè)時(shí)代，享受這個(gè)紅利和普惠性?！?/p>

在他看來(lái)，無(wú)論一家企業(yè)還是一個(gè)行業(yè)，提到信任，就要從責(zé)任入手。只有好的意圖，才能達(dá)成好的后果。從而建立相互影響、相互支持、相互依賴的健康有序發(fā)展生態(tài)。

（作者：陶力 編輯：張星）