當(dāng)人工智能被蒙騙，人類(lèi)的未來(lái)將會(huì)怎樣？5月13日，全球首次海上極客大賽GeekPwn年中賽在香港舉辦，組委會(huì)在舉辦地星夢(mèng)郵輪“云頂夢(mèng)號(hào)”上宣布：將以500萬(wàn)的獎(jiǎng)金池，啟動(dòng)10月24日在上海和硅谷的人工智能安全挑戰(zhàn)賽的招募，接受全球頂尖AI安全極客的報(bào)名。同時(shí)GeekPwn還將與項(xiàng)目聯(lián)合發(fā)起方Next Idea(騰訊創(chuàng)新大賽)、獨(dú)家AI協(xié)辦機(jī)構(gòu)機(jī)器之心等合作伙伴，就AI安全的社會(huì)及專(zhuān)業(yè)議題展開(kāi)前沿深入的探討。

　　（碁震KEEN公司CEO，GeekPwn大賽創(chuàng)辦人王琦）

　　遠(yuǎn)程操控特斯拉、用鼻尖解鎖手機(jī)、任意遠(yuǎn)程劫持世界任一用戶(hù)的通訊……創(chuàng)辦于2014年的國(guó)際安全極客大賽GeekPwn，白帽黑客們將他們的逆向思維、奇思妙想的腦洞發(fā)揮到了極致。在向世界秀出他們的才華的同時(shí)，也幫助了上百個(gè)廠商及產(chǎn)品去修復(fù)安全問(wèn)題。GeekPwn創(chuàng)辦人、碁震KEEN公司創(chuàng)始人兼CEO王琦表示，從對(duì)抗的思路出發(fā)，創(chuàng)辦人工智能安全挑戰(zhàn)賽是為了尋找AI潛藏的風(fēng)險(xiǎn)并不斷幫助其完善，幫助人工智能安全健康成長(zhǎng)。

　　如今，人工智能已經(jīng)廣泛應(yīng)用于生活的諸多場(chǎng)景中，包括實(shí)時(shí)語(yǔ)音翻譯、目標(biāo)識(shí)別、自動(dòng)駕駛等等。率先關(guān)注到人工智能可能暴露出的諸多風(fēng)險(xiǎn)，GeekPwn實(shí)驗(yàn)室在2015年底開(kāi)始了AI對(duì)抗的研究，并廣泛接觸和招募AI領(lǐng)域的頂尖人才，很快，在2016年的GeekPwn美國(guó)站上，生成對(duì)抗網(wǎng)絡(luò)(GANs)之父Ian Goodfellow就展示了“對(duì)抗性圖像”在現(xiàn)實(shí)物理世界欺騙機(jī)器學(xué)習(xí)的效果。原始圖像以60%的置信度判斷為“熊貓”，但是加入了微小的干擾，在人眼完全看不出差別的情況下卻以99%的執(zhí)行度歸為了長(zhǎng)臂猿。

　　近期，有研究者發(fā)現(xiàn)，惡意攻擊者可以欺騙Google的CloudVision API，這將導(dǎo)致API對(duì)用戶(hù)提交的圖片進(jìn)行錯(cuò)誤地分類(lèi)，網(wǎng)絡(luò)犯罪分子可以利用這種技術(shù)來(lái)傳播暴力圖片、色情圖片或恐怖主義宣傳圖片。

　　不需要學(xué)代碼 未來(lái)可能人人都是“黑客”

　　AI在圖像領(lǐng)域存在被欺騙的可能性，讓王琦預(yù)見(jiàn)到這種可能性在其他語(yǔ)音和行為智能等領(lǐng)域也會(huì)存在。AI被欺騙，看似人工智能的錯(cuò)誤和不完善，但其實(shí)在黑客眼里就有可能變成可以被利用的漏洞。隨著AI在交通、金融和醫(yī)療體系中運(yùn)用得愈加普遍，GeekPwn希望在惡意分子真正動(dòng)手之前、找到對(duì)抗這些攻擊的方法。

　　王琦表示，在人工智能領(lǐng)域，深度學(xué)習(xí)依賴(lài)對(duì)大量樣本進(jìn)行學(xué)習(xí)，最后產(chǎn)生決策的過(guò)程，和安全領(lǐng)域里通過(guò)產(chǎn)生大量模糊測(cè)試樣本引發(fā)計(jì)算機(jī)異常，從而發(fā)掘出漏洞，最終執(zhí)行流程可以被改變，進(jìn)而導(dǎo)致安全危害的過(guò)程非常相似，如果說(shuō)正確樣本能夠產(chǎn)生正確的決策，那么黑客通過(guò)離線模擬產(chǎn)生的AI攻擊樣本，則可能給人工智能帶來(lái)錯(cuò)誤的決策和行為。

　　微軟聊天機(jī)器人Tay上線不到一天，就向網(wǎng)友“成功學(xué)習(xí)”了新的聊天方式，從彬彬有禮的美國(guó)“姑娘”變得臟話(huà)不斷，言語(yǔ)中還充斥了種族主義、色情等“情感偏見(jiàn)”。王琦大膽預(yù)言：深度依賴(lài)學(xué)習(xí)樣本的人工智能，未來(lái)對(duì)它的攻擊可能甚至不需要編寫(xiě)代碼，人人都可能成為“黑客”。

　　極棒向全球AI極客廣發(fā)英雄帖 與人工智能“決戰(zhàn)到底”

　　作為全球首個(gè)探索人工智能與安全的專(zhuān)業(yè)平臺(tái)， 2017年，GeekPwn(極棒)將人工智能安全挑戰(zhàn)賽列為全年重點(diǎn)項(xiàng)目。聯(lián)合發(fā)起方NEXT IDEA 2017年則以“未來(lái)想象”為主題，讓青年群體更多關(guān)注包括人工智能安全等與人類(lèi)未來(lái)息息相關(guān)的領(lǐng)域，讓每一個(gè)年輕人的奇思妙想得到肆意生長(zhǎng)。騰訊集團(tuán)市場(chǎng)與公關(guān)部總經(jīng)理許菁文認(rèn)為，安全專(zhuān)家對(duì)于未來(lái)的擔(dān)憂(yōu)將引領(lǐng)年輕人思考人類(lèi)未來(lái)的生產(chǎn)、生活遇到的問(wèn)題和挑戰(zhàn)，讓更多的年輕人一起為人工智能安全貢獻(xiàn)一份力量。

　　無(wú)論你是想突破人臉識(shí)別手機(jī)解鎖，在 AI 開(kāi)源框架中找到問(wèn)題，還是想“創(chuàng)造”AI特工，讓它實(shí)現(xiàn)入侵，都可以報(bào)名參加。在這場(chǎng)即將到來(lái)的黑客與人工智能的對(duì)決中，黑客將利用AI 的錯(cuò)誤以及不完善，為人們帶來(lái)怎樣突破性的想象和超前的技術(shù)展示？這一切，將在10月24日GeekPwn2017嘉年華上海站及硅谷站的現(xiàn)場(chǎng)為全人類(lèi)揭曉。

　　“我們現(xiàn)在是幫助人工智能成長(zhǎng)，希望有朝一日，黑客可以成為保護(hù)人類(lèi)的那群人。”王琦說(shuō)。