近日，昇思MindSpore支撐華為OCR云服務(wù)正式通過獨立機(jī)構(gòu)的AI C4審計認(rèn)證，安全目標(biāo)100%達(dá)成。這標(biāo)志著昇思MindSpore的安全能力達(dá)到了業(yè)界領(lǐng)先水平，能夠滿足業(yè)界最高水平的AI云服務(wù)審計要求。此前，在德國，華為基于業(yè)務(wù)用例的試點項目向德國聯(lián)邦信息安全辦公室(BSI) 提供建議，支持其發(fā)布了AI云服務(wù)合規(guī)標(biāo)準(zhǔn)目錄(AI C4)，這是業(yè)界首個面向AI云服務(wù)的安全標(biāo)準(zhǔn)。
伴隨著人工智能不斷發(fā)展，在極大提升人們生產(chǎn)生活品質(zhì)的同時，AI具有的技術(shù)特性如通用目的性、算法黑箱性以及數(shù)據(jù)依賴性等，在社會、企業(yè)、個人等維度引發(fā)了不小的風(fēng)險與挑戰(zhàn)，僅憑C5標(biāo)準(zhǔn)還不足以完全應(yīng)對。為此，德國聯(lián)邦信息安全局制定了一項特定于AI云服務(wù)的審計標(biāo)準(zhǔn)AI C4（AI Cloud Service Compliance Criteria Catalogue）——該標(biāo)準(zhǔn)設(shè)定了安全的基線水平，可通過獨立審計機(jī)構(gòu)對于AI云服務(wù)在其生命周期內(nèi)的安全性進(jìn)行可靠評估。
OCR服務(wù)是利用光學(xué)設(shè)備對圖像進(jìn)行捕獲并完成文字識別的過程，可兼顧達(dá)成人力節(jié)約與效率提升的雙目標(biāo)。但痛點就在于，當(dāng)攻擊者對待識別的文字做出肉眼不易察覺的修改時，將會導(dǎo)致實施算法的模型無法對該修改做出正確的識別或處理，造成OCR服務(wù)對文字的識別準(zhǔn)確率下降，但使用人員卻很難看到這問題背后的真因。
昇思MindSpore從開源AI框架的角度出發(fā)，圍繞AI全生命周期，構(gòu)建出以下重點技術(shù)能力：
①模型安全
通過魯棒性評測、對抗測評、對抗訓(xùn)練、模型加密等，實現(xiàn)模型保護(hù)；
②隱私保護(hù)
構(gòu)建了隱私評估、差分隱私訓(xùn)練、聯(lián)邦學(xué)習(xí)等技術(shù)，保障數(shù)據(jù)隱私；
③可解釋性
通過原創(chuàng)語義級可解釋技術(shù)、可解釋方法工具集等，提高模型的可解釋性，增強用戶理解度，讓用戶更信任并有效地使用模型。
本次認(rèn)證中，華為技術(shù)團(tuán)隊使用了昇思MindSpore模型安全評測工具M(jìn)indSpore Armour對OCR服務(wù)進(jìn)行安全性測評。從中發(fā)現(xiàn)，目前大多數(shù)OCR服務(wù)的算法模型均存在識別自然擾動和防御樣本對抗能力差的問題，如文本框檢測模型在校驗噪聲、PGD、PSO（粒子群）等攻擊算法下的準(zhǔn)確率小于66%。華為技術(shù)團(tuán)隊針對這些問題對模型開發(fā)進(jìn)行指導(dǎo)，通過對抗樣本檢測、數(shù)據(jù)增強訓(xùn)練等技術(shù)，使模型對惡意樣本的識別準(zhǔn)確率達(dá)到 95+%，提高了模型及OCR服務(wù)的魯棒性，達(dá)成了AI C4標(biāo)準(zhǔn)對AI云服務(wù)安全和魯棒性的要求。
除助力華為OCR云服務(wù)通過AI C4認(rèn)證外，昇思MindSpore率先出擊，攜手法荷多方權(quán)威評估和認(rèn)證機(jī)構(gòu)，在2021年完成了AI框架領(lǐng)域的認(rèn)證標(biāo)準(zhǔn)制定，并于今年4月獲得荷蘭NSCIB頒發(fā)的CC EAL2+認(rèn)證證書，填補了AI框架領(lǐng)域在安全標(biāo)準(zhǔn)上的空白，成為全球首個獲得CC認(rèn)證的AI框架，實現(xiàn)從0到1的突破。
此外，昇思MindSpore經(jīng)過云計算開源產(chǎn)業(yè)聯(lián)盟（OSCAR）評估，榮獲全國首批《可信開源社區(qū)評估體系》認(rèn)證。
在智能時代的浪潮中，昇思MindSpore致力于實現(xiàn)可信AI的最高要求，從安全技術(shù)和安全治理上不斷提升AI安全水平。未來，昇思MindSpore仍將持續(xù)創(chuàng)新，與行業(yè)客戶共同應(yīng)對人工智能領(lǐng)域安全的風(fēng)險與挑戰(zhàn)，為客戶提供更安全更可信的應(yīng)用及服務(wù)。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
