昇思MindSpore安全技術(shù)助力OCR云服務(wù)通過國際最高水平安全認(rèn)證

近日,昇思MindSpore支撐華為OCR云服務(wù)正式通過獨立機(jī)構(gòu)的AI C4審計認(rèn)證,安全目標(biāo)100%達(dá)成。這標(biāo)志著昇思MindSpore的安全能力達(dá)到了業(yè)界領(lǐng)先水平,能夠滿足業(yè)界最高水平的AI云服務(wù)審計要求。此前,在德國,華為基于業(yè)務(wù)用例的試點項目向德國聯(lián)邦信息安全辦公室(BSI) 提供建議,支持其發(fā)布了AI云服務(wù)合規(guī)標(biāo)準(zhǔn)目錄(AI C4),這是業(yè)界首個面向AI云服務(wù)的安全標(biāo)準(zhǔn)。

伴隨著人工智能不斷發(fā)展,在極大提升人們生產(chǎn)生活品質(zhì)的同時,AI具有的技術(shù)特性如通用目的性、算法黑箱性以及數(shù)據(jù)依賴性等,在社會、企業(yè)、個人等維度引發(fā)了不小的風(fēng)險與挑戰(zhàn),僅憑C5標(biāo)準(zhǔn)還不足以完全應(yīng)對。為此,德國聯(lián)邦信息安全局制定了一項特定于AI云服務(wù)的審計標(biāo)準(zhǔn)AI C4(AI Cloud Service Compliance Criteria Catalogue)——該標(biāo)準(zhǔn)設(shè)定了安全的基線水平,可通過獨立審計機(jī)構(gòu)對于AI云服務(wù)在其生命周期內(nèi)的安全性進(jìn)行可靠評估。

OCR服務(wù)是利用光學(xué)設(shè)備對圖像進(jìn)行捕獲并完成文字識別的過程,可兼顧達(dá)成人力節(jié)約與效率提升的雙目標(biāo)。但痛點就在于,當(dāng)攻擊者對待識別的文字做出肉眼不易察覺的修改時,將會導(dǎo)致實施算法的模型無法對該修改做出正確的識別或處理,造成OCR服務(wù)對文字的識別準(zhǔn)確率下降,但使用人員卻很難看到這問題背后的真因。

昇思MindSpore從開源AI框架的角度出發(fā),圍繞AI全生命周期,構(gòu)建出以下重點技術(shù)能力:

①模型安全

通過魯棒性評測、對抗測評、對抗訓(xùn)練、模型加密等,實現(xiàn)模型保護(hù);

②隱私保護(hù)

構(gòu)建了隱私評估、差分隱私訓(xùn)練、聯(lián)邦學(xué)習(xí)等技術(shù),保障數(shù)據(jù)隱私;

③可解釋性

通過原創(chuàng)語義級可解釋技術(shù)、可解釋方法工具集等,提高模型的可解釋性,增強用戶理解度,讓用戶更信任并有效地使用模型。

本次認(rèn)證中,華為技術(shù)團(tuán)隊使用了昇思MindSpore模型安全評測工具M(jìn)indSpore Armour對OCR服務(wù)進(jìn)行安全性測評。從中發(fā)現(xiàn),目前大多數(shù)OCR服務(wù)的算法模型均存在識別自然擾動和防御樣本對抗能力差的問題,如文本框檢測模型在校驗噪聲、PGD、PSO(粒子群)等攻擊算法下的準(zhǔn)確率小于66%。華為技術(shù)團(tuán)隊針對這些問題對模型開發(fā)進(jìn)行指導(dǎo),通過對抗樣本檢測、數(shù)據(jù)增強訓(xùn)練等技術(shù),使模型對惡意樣本的識別準(zhǔn)確率達(dá)到 95+%,提高了模型及OCR服務(wù)的魯棒性,達(dá)成了AI C4標(biāo)準(zhǔn)對AI云服務(wù)安全和魯棒性的要求。

除助力華為OCR云服務(wù)通過AI C4認(rèn)證外,昇思MindSpore率先出擊,攜手法荷多方權(quán)威評估和認(rèn)證機(jī)構(gòu),在2021年完成了AI框架領(lǐng)域的認(rèn)證標(biāo)準(zhǔn)制定,并于今年4月獲得荷蘭NSCIB頒發(fā)的CC EAL2+認(rèn)證證書,填補了AI框架領(lǐng)域在安全標(biāo)準(zhǔn)上的空白,成為全球首個獲得CC認(rèn)證的AI框架,實現(xiàn)從0到1的突破。

此外,昇思MindSpore經(jīng)過云計算開源產(chǎn)業(yè)聯(lián)盟(OSCAR)評估,榮獲全國首批《可信開源社區(qū)評估體系》認(rèn)證。

在智能時代的浪潮中,昇思MindSpore致力于實現(xiàn)可信AI的最高要求,從安全技術(shù)和安全治理上不斷提升AI安全水平。未來,昇思MindSpore仍將持續(xù)創(chuàng)新,與行業(yè)客戶共同應(yīng)對人工智能領(lǐng)域安全的風(fēng)險與挑戰(zhàn),為客戶提供更安全更可信的應(yīng)用及服務(wù)。


(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2022-05-26
昇思MindSpore安全技術(shù)助力OCR云服務(wù)通過國際最高水平安全認(rèn)證
近日,昇思MindSpore支撐華為OCR云服務(wù)正式通過獨立機(jī)構(gòu)的AI C4審計認(rèn)證,安全目標(biāo)100%達(dá)成。這標(biāo)志著昇思MindSpore的安全能力達(dá)到了業(yè)界領(lǐng)先水平,能夠滿足業(yè)界最高水平的AI云服務(wù)審計要求。此前,在德國,華為基于業(yè)務(wù)用例的試點項目向德國聯(lián)邦信息安全辦公室(BSI) 提供建議,支...

長按掃碼 閱讀全文