GeekPwn2018：小心！馬賽克也守不住你的“小秘密”

不經(jīng)意間，人工智能已經(jīng)全面占領(lǐng)了我們的日常——“刷臉時代”似乎真的來了。隨著辦公室可以“刷臉打卡”、機(jī)場用上了“刷臉安檢”、銀行“刷臉取款”， 廁所 “刷臉取紙”等人臉識別技術(shù)的普及，人工智能成功從好萊塢巨幕中走進(jìn)了人類的現(xiàn)實生活。

當(dāng)它們在生活中扮演越來越重要的角色時，我們開始質(zhì)疑：看似一絲不茍的AI是否是未來智能生活的最安全解決方案?GeekPwn2018揭開你的迷思。10月24日，在中國上海舉辦的GeekPwn2018國際安全極客大賽的現(xiàn)場，白帽黑客與人工智能的“爭鋒相對”——一場史無前例的人工智能項目破解秀，揭露了現(xiàn)階段人工智能發(fā)展過程所存在的安全問題。

　　GeekPwn2018大賽上海站現(xiàn)場

作為全球首個探索人工智能與專業(yè)安全的前沿平臺，GeekPwn始終保持敏銳的科技洞察力，在創(chuàng)建之初就開始關(guān)注AI安全問題。今年，以“人‘攻’智能，洞見未來”為主題的GeekPwn又對人工智能時代下的安全問題開啟全新一輪的探索，其中重點項目“CAAD對抗性樣本攻防挑戰(zhàn)賽“的命題專項賽和“GAN掉馬賽克挑戰(zhàn)賽”的趣味挑戰(zhàn)賽，創(chuàng)新國內(nèi)人工智能對抗新玩法，黑客與人工智能之間的博弈無疑成為本屆GeekPwn大賽最大的亮點。

“宇宙飛船”or“巨石”傻傻分不清楚?AI在誘導(dǎo)下也會看花眼

眾所周知，人臉識別技術(shù)為生活帶來諸多高效體驗的同時，也打開了人類無限的想象空間。AI保安、AI警衛(wèi)正在逐漸代替?zhèn)鹘y(tǒng)人力，承擔(dān)起為重要場所“看家護(hù)院”的職責(zé)。似乎AI將不可避免地在某些領(lǐng)域被賦予“至高無上”的權(quán)利。但是，它真的能扮演好一個優(yōu)秀警衛(wèi)的角色，眼里容不得“半點沙”?

目前的AI識圖并不能夠萬無一失，它不僅也會看花眼，而且離譜到“人人”都可以是施瓦辛格!本是肉眼就能輕易分辨出來的“事物”，被GeekPwn2018選手們“黑”去細(xì)節(jié)后，AI誤將“宇宙飛行器”識別成“巨石”;將“導(dǎo)彈”判定為“安全物品”;甚至將現(xiàn)場特邀主持人蔣昌建老師的照片識別為阿諾德·施瓦辛格。在GeekPwn2018大賽現(xiàn)場，由吳青昕和謝慈航兩位選手組成的IYSWIM戰(zhàn)隊，通過生成一系列“對抗樣本”，成功欺騙亞馬遜celebrity recognition，實現(xiàn)對AI識圖的PWN三連擊，以第一名的成績率先完成“CAAD對抗性樣本攻防挑戰(zhàn)賽”項目第一階段的限時挑戰(zhàn)。

　　“CAAD對抗性樣本攻防挑戰(zhàn)賽”參賽隊伍 IYSWIM

這是繼今年8月GeekPwn拉斯維加斯站之后，“CAAD對抗性樣本攻防挑戰(zhàn)賽”首次登陸上海。GeekPwn 聯(lián)合谷歌大腦人工智能研究科學(xué)家Ian Goodfellow、Alexey Kurakin以及美國加州大學(xué)伯克利分校計算機(jī)系教授宋曉冬等學(xué)術(shù)機(jī)構(gòu)等權(quán)威，延續(xù)拉斯維加斯站上首創(chuàng)的CAAD CTF形式，邀請到來自清華大學(xué)、中國科學(xué)技術(shù)大學(xué)、美國約翰·霍普金斯大學(xué)、Facebook、騰訊、阿里巴巴、扇貝等知名高校與企業(yè)的六支 AI 強(qiáng)隊登上“1024”的舞臺，進(jìn)行實時攻擊與防守比賽，提前預(yù)演人工智能應(yīng)用潛在的安全風(fēng)險。

區(qū)別于第一階段的“限時挑戰(zhàn)賽”完成規(guī)定挑戰(zhàn)即可，第二階段的“攻防賽”是戰(zhàn)隊間一場不定向的拉鋸戰(zhàn)——各隊伍相互攻擊、相互防御，誰也預(yù)測不到下一個攻擊來自“who”。選手們一手握著鋒利的“刺刀“，一手把著厚實的”盾牌“，在攻擊和防御的兩端來回游走。經(jīng)過兩個階段的激烈角逐，最終，IYSWIM團(tuán)隊問鼎本屆“CAAD對抗性樣本攻防挑戰(zhàn)賽”項目冠軍，OWLET、TSAIL團(tuán)隊分別獲得二、三名，Blade、USTC-ALIBABA以及RNG團(tuán)隊獲得優(yōu)勝獎。

　　CAAD對抗性樣本攻防挑戰(zhàn)賽獲獎選手合照

不僅如此，期待已久的CAAD線上賽最終成績也在GeekPwn2018的現(xiàn)場揭曉。其中ysharma1126、Labmem2018、TSAIL團(tuán)隊分列非定向?qū)构?Non-targeted attack)賽的前三名;ysharma1126、TSAIL、wilson8561團(tuán)隊分列定向?qū)构?Targeted attack)賽的前三名;FAIR & JHU、TSAIL、ysharma1126團(tuán)隊分列對抗防御(Defense)賽的前三名。據(jù)悉，CAAD線上賽的獎金總計65萬元。

打碼如同心理安慰?GeekPwn利用AI還原馬賽克背后的真相

馬賽克作為修圖軟件中必不可少的工具之一，成為當(dāng)代人獲取“安全感”的重要保障。打碼的背后，究竟是男友出軌的實錘?或是女神住處臟亂差的反差?還是隱婚族的蛛絲馬跡?馬賽克真的能夠守住你的“小秘密“嗎?GeekPwn2018現(xiàn)場，來自中國海洋大學(xué)的選手杜昂昂以“生成對抗性網(wǎng)絡(luò)-GAN”的AI技術(shù)還原打碼圖片的真實原貌，撕碎馬賽克的“偽裝“，宣告僅僅依賴打碼就萬事皆平安的年代已經(jīng)成為過去式。

　　“GAN掉馬賽克”項目選手杜昂昂

根據(jù)“GAN掉馬賽克”的比賽規(guī)則，主辦方提前已告知參賽選手3類(菠蘿、漢堡、比基尼)圖片進(jìn)行訓(xùn)練;比賽現(xiàn)場主辦方提供3類中的多張圖片，循環(huán)播放(選手不得觀看)，并由觀眾任選其中3張打上馬賽克，交由選手嘗試還原。選手最終幾乎以“1:1完美復(fù)刻”的優(yōu)秀表現(xiàn)成功完成項目破解挑戰(zhàn)。

此次“CAAD對抗樣本限時挑戰(zhàn)賽”和“GAN掉馬賽克挑戰(zhàn)賽“兩個項目的破解挑戰(zhàn)，無疑為大眾敲響了AI安全的警鐘，如果犯罪分子利用對抗樣本偽裝成普通人，騙過強(qiáng)大的人臉識別系統(tǒng);如果犯罪分子利用對抗網(wǎng)絡(luò)GAN還原受害人的個人信息，找到其住所……這些隱藏在智能生活里的人工智能安全隱患，未來很可能真的發(fā)生并成為社會新聞的頭條。

人工智能安全距離大眾生活并不遙遠(yuǎn)，它與生活息息相關(guān)，從前瞻的技術(shù)趨勢出發(fā)，智能安全應(yīng)該引起更廣泛的重視。碁震KEEN公司CEO，GeekPwn發(fā)起創(chuàng)辦人王琦表示：自創(chuàng)辦以來，極棒帶來了許多腦洞大開的破解展示，向廠商提交了上百個漏洞，也讓更多人關(guān)注到智能生活中安全問題的重要性和必要性，人“攻”智能不是目的，極棒希望以科學(xué)的評判及可視化的展示，讓科學(xué)流行起來，讓智慧飛揚起來，讓大家的生活更加安全起來。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。