央廣網上海9月18日消息（記者唐奇云）“2018世界人工智能大會·人工智能安全高端對話”在上海國際會議中心召開。作為世界人工智能大會的分論壇之一，對話由上海賽博網絡安全產業創新研究院和中國信息通信研究院安全研究所承辦，騰訊公司安全管理部、上海社會科學院互聯網研究中心和《探索與爭鳴》雜志社共同協辦。

高端對話專家組發起《人工智能安全發展上海倡議》（央廣網記者 唐奇云 攝）

　　本次對話匯聚了全球人工智能安全領域的頂級專家、學者和產業精英，圍繞“人工智能安全倫理規范”“人工智能重塑國家安全”“人工智能賦能網絡安全”三大主題，把脈人工智能安全發展未來。與此同時，作為全世界共同面臨的重要議題，高端對話專家組發起了《人工智能安全發展上海倡議》。上海社會科學院互聯網研究中心執行主任惠志斌介紹了倡議的主要內容：人工智能安全發展要遵循“面向未來、以人為本、責任明晰、隱私保護、算法公正、透明監管、和平利用、開放合作”的八大理念。

　　安全倫理規范 最大限度消除不利影響

　　在人工智能的研發和應用過程中，都需要優先考慮倫理規范的問題。峰橋集團總裁陳實在發言中提到，未來如果人工智能擁有和人類相似的感知，是否也應當和人類一樣擁有一定的權利。他認為各國都應重視對人工智能安全倫理規范的思考，將技術發展與社會倫理置于相同的環境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規范內健康發展。

　　歐亞集團科技戰略主任保羅？特里奧洛表示，中國在建立人工智能倫理規范方面發揮了積極的作用，并重點比較了中國、美國和歐盟在人工智能監管方面的差異，提出在監管機制層面各國政府可達成共同點的建議。

　　華東政法大學人工智能與大數據指數研究院院長高奇琦、UCloud聯合創始人兼CEO季昕華、碁震KEEN公司創始人兼CEO王琦在圓桌環節，就隱私保護、就業替代、機器權力等議題上各抒己見，分別表達了各自在人工智能領域方面的思考。

　　風險與治理 人工智能重塑國家安全

　　人工智能越來越多地被應用到戰略決策輔助系統和智能軍事系統，基于人工智能的技術代差將對國家安全力量對比產生不可逆的影響，迫切需要審視人工智能對維護國家安全提出的新要求。

　　中國科學院復雜系統管理與控制國家重點實驗室主任王飛躍指出，網絡安全的傳統模式將會向虛實糾纏引導的平行范式轉化，一個網絡安全系統的實力，很大程度上可能并不取決于其物理本身，而是取決于與其伴生的軟件定義的人工系統映像。

　　聯合國人工智能和機器人中心主任伊萊克利？伯利茲認為，人工智能為解決網絡安全事件、系統漏洞、信息保護等提供了更加高效、智慧的解決方案，但同時也容易被非法利用，對社會造成危害。因此，應對現階段人工智能的發展充分評估，并建立起各方參與的協同合作模式。

　　國防科技大學前沿交叉學科學院國家安全與軍事戰略研究所所長朱啟超、復旦大學哲學學院教授徐英瑾、斗象科技創始人袁勁松對國防軍事、網絡攻防、自動化武器等話題進行了互動交流。

2018世界人工智能大會·人工智能安全高端對話（央廣網發 世界人工智能組委會 供圖）

　　AI+安全 人工智能賦能網絡安全

　　人工智能技術正在被用于智能網絡武器威脅網絡安全的同時，它也在網絡安全漏洞檢測、惡意軟件識別、不良信息智能審核、防范網絡犯罪等方面發揮著重要作用。

　　中國科學院院士何積豐指出，在功能安全方面，軟件測試驗證正變得更加智能化；在信息安全方面，主動防御體系同樣地愈發智能化。隨著人工智能的發展，工控功能安全和信息安全將會更加緊密融合。

　　中國移動研究院首席科學家馮俊蘭認為，5G網絡服務眾多垂直工業，數據挖掘技術更易保護用戶隱私信息，并提出了“通信改變社會”的愿景，強調電信運營商應當加強與垂直行業的互信和協作。

　　眼神科技CEO周軍、杭州安恒信息技術股份有限公司首席科學家劉博、騰訊科恩實驗室總監呂一平等與會嘉賓在圓桌討論中為推動人工智能安全技術發展，防范網絡空間安全風險積極建言。

中國信息通信研究院安全研究所發布《人工智能安全白皮書》（央廣網發 世界人工智能組委會 供圖）

　　三大重磅報告 描繪解析人工智能安全

　　值得注意的是，本次對話重磅推出了三份人工智能安全專題報告。牛金行研究員代表中國信息通信研究院安全研究所發布了《人工智能安全白皮書》。白皮書從人工智能的安全內涵出發，首次歸納了人工智能安全體系框架，在系統梳理人工智能安全風險和安全應用情況的基礎上，進一步總結了國內外人工智能安全的管理現狀，提出了應對人工智能安全風險應對和未來發展的建議。

　　上海國際問題研究院全球治理研究所副研究員魯傳穎代表上海賽博網絡安全產業創新研究院和上海社科院互聯網研究中心的聯合課題組，發布了《人工智能時代的國家安全：風險與治理》報告。報告根據人工智能技術和應用的發展趨勢，分析了各國在不同領域所面對的安全風險，提出應從提升風險意識、完善治理體系、加強監管能力和探求國際合作等來構建風險分析和應對框架，提升國家安全的韌性。

　　騰訊公司生態安全研究中心高級研究員韓李云博士代表騰訊公司安全管理部和上海賽博網絡安全產業創新研究院發布了《人工智能賦能網絡空間安全：模式與實踐》報告。該報告聚焦網絡安全，分析了網絡空間安全的演進和風險趨勢，結合騰訊AI安全應用全布局和國內外企業的30多個最佳實踐，詳細闡釋人工智能賦能網絡空間安全（AI+安全）的最新進展。最后韓李云指出，人工智能安全將成為人工智能產業發展最大藍海，人工智能技術路線豐富將改善安全困境，網絡空間安全將驅動人工智能國際合作。