央廣網(wǎng)上海9月18日消息（記者唐奇云）“2018世界人工智能大會(huì)·人工智能安全高端對(duì)話”在上海國(guó)際會(huì)議中心召開。作為世界人工智能大會(huì)的分論壇之一，對(duì)話由上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院和中國(guó)信息通信研究院安全研究所承辦，騰訊公司安全管理部、上海社會(huì)科學(xué)院互聯(lián)網(wǎng)研究中心和《探索與爭(zhēng)鳴》雜志社共同協(xié)辦。

高端對(duì)話專家組發(fā)起《人工智能安全發(fā)展上海倡議》（央廣網(wǎng)記者 唐奇云 攝）

　　本次對(duì)話匯聚了全球人工智能安全領(lǐng)域的頂級(jí)專家、學(xué)者和產(chǎn)業(yè)精英，圍繞“人工智能安全倫理規(guī)范”“人工智能重塑國(guó)家安全”“人工智能賦能網(wǎng)絡(luò)安全”三大主題，把脈人工智能安全發(fā)展未來。與此同時(shí)，作為全世界共同面臨的重要議題，高端對(duì)話專家組發(fā)起了《人工智能安全發(fā)展上海倡議》。上海社會(huì)科學(xué)院互聯(lián)網(wǎng)研究中心執(zhí)行主任惠志斌介紹了倡議的主要內(nèi)容：人工智能安全發(fā)展要遵循“面向未來、以人為本、責(zé)任明晰、隱私保護(hù)、算法公正、透明監(jiān)管、和平利用、開放合作”的八大理念。

　　安全倫理規(guī)范 最大限度消除不利影響

　　在人工智能的研發(fā)和應(yīng)用過程中，都需要優(yōu)先考慮倫理規(guī)范的問題。峰橋集團(tuán)總裁陳實(shí)在發(fā)言中提到，未來如果人工智能擁有和人類相似的感知，是否也應(yīng)當(dāng)和人類一樣擁有一定的權(quán)利。他認(rèn)為各國(guó)都應(yīng)重視對(duì)人工智能安全倫理規(guī)范的思考，將技術(shù)發(fā)展與社會(huì)倫理置于相同的環(huán)境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規(guī)范內(nèi)健康發(fā)展。

　　歐亞集團(tuán)科技戰(zhàn)略主任保羅？特里奧洛表示，中國(guó)在建立人工智能倫理規(guī)范方面發(fā)揮了積極的作用，并重點(diǎn)比較了中國(guó)、美國(guó)和歐盟在人工智能監(jiān)管方面的差異，提出在監(jiān)管機(jī)制層面各國(guó)政府可達(dá)成共同點(diǎn)的建議。

　　華東政法大學(xué)人工智能與大數(shù)據(jù)指數(shù)研究院院長(zhǎng)高奇琦、UCloud聯(lián)合創(chuàng)始人兼CEO季昕華、碁震KEEN公司創(chuàng)始人兼CEO王琦在圓桌環(huán)節(jié)，就隱私保護(hù)、就業(yè)替代、機(jī)器權(quán)力等議題上各抒己見，分別表達(dá)了各自在人工智能領(lǐng)域方面的思考。

　　風(fēng)險(xiǎn)與治理 人工智能重塑國(guó)家安全

　　人工智能越來越多地被應(yīng)用到戰(zhàn)略決策輔助系統(tǒng)和智能軍事系統(tǒng)，基于人工智能的技術(shù)代差將對(duì)國(guó)家安全力量對(duì)比產(chǎn)生不可逆的影響，迫切需要審視人工智能對(duì)維護(hù)國(guó)家安全提出的新要求。

　　中國(guó)科學(xué)院復(fù)雜系統(tǒng)管理與控制國(guó)家重點(diǎn)實(shí)驗(yàn)室主任王飛躍指出，網(wǎng)絡(luò)安全的傳統(tǒng)模式將會(huì)向虛實(shí)糾纏引導(dǎo)的平行范式轉(zhuǎn)化，一個(gè)網(wǎng)絡(luò)安全系統(tǒng)的實(shí)力，很大程度上可能并不取決于其物理本身，而是取決于與其伴生的軟件定義的人工系統(tǒng)映像。

　　聯(lián)合國(guó)人工智能和機(jī)器人中心主任伊萊克利？伯利茲認(rèn)為，人工智能為解決網(wǎng)絡(luò)安全事件、系統(tǒng)漏洞、信息保護(hù)等提供了更加高效、智慧的解決方案，但同時(shí)也容易被非法利用，對(duì)社會(huì)造成危害。因此，應(yīng)對(duì)現(xiàn)階段人工智能的發(fā)展充分評(píng)估，并建立起各方參與的協(xié)同合作模式。

　　國(guó)防科技大學(xué)前沿交叉學(xué)科學(xué)院國(guó)家安全與軍事戰(zhàn)略研究所所長(zhǎng)朱啟超、復(fù)旦大學(xué)哲學(xué)學(xué)院教授徐英瑾、斗象科技創(chuàng)始人袁勁松對(duì)國(guó)防軍事、網(wǎng)絡(luò)攻防、自動(dòng)化武器等話題進(jìn)行了互動(dòng)交流。

2018世界人工智能大會(huì)·人工智能安全高端對(duì)話（央廣網(wǎng)發(fā) 世界人工智能組委會(huì) 供圖）

　　AI+安全 人工智能賦能網(wǎng)絡(luò)安全

　　人工智能技術(shù)正在被用于智能網(wǎng)絡(luò)武器威脅網(wǎng)絡(luò)安全的同時(shí)，它也在網(wǎng)絡(luò)安全漏洞檢測(cè)、惡意軟件識(shí)別、不良信息智能審核、防范網(wǎng)絡(luò)犯罪等方面發(fā)揮著重要作用。

　　中國(guó)科學(xué)院院士何積豐指出，在功能安全方面，軟件測(cè)試驗(yàn)證正變得更加智能化；在信息安全方面，主動(dòng)防御體系同樣地愈發(fā)智能化。隨著人工智能的發(fā)展，工控功能安全和信息安全將會(huì)更加緊密融合。

　　中國(guó)移動(dòng)研究院首席科學(xué)家馮俊蘭認(rèn)為，5G網(wǎng)絡(luò)服務(wù)眾多垂直工業(yè)，數(shù)據(jù)挖掘技術(shù)更易保護(hù)用戶隱私信息，并提出了“通信改變社會(huì)”的愿景，強(qiáng)調(diào)電信運(yùn)營(yíng)商應(yīng)當(dāng)加強(qiáng)與垂直行業(yè)的互信和協(xié)作。

　　眼神科技CEO周軍、杭州安恒信息技術(shù)股份有限公司首席科學(xué)家劉博、騰訊科恩實(shí)驗(yàn)室總監(jiān)呂一平等與會(huì)嘉賓在圓桌討論中為推動(dòng)人工智能安全技術(shù)發(fā)展，防范網(wǎng)絡(luò)空間安全風(fēng)險(xiǎn)積極建言。

中國(guó)信息通信研究院安全研究所發(fā)布《人工智能安全白皮書》（央廣網(wǎng)發(fā) 世界人工智能組委會(huì) 供圖）

　　三大重磅報(bào)告 描繪解析人工智能安全

　　值得注意的是，本次對(duì)話重磅推出了三份人工智能安全專題報(bào)告。牛金行研究員代表中國(guó)信息通信研究院安全研究所發(fā)布了《人工智能安全白皮書》。白皮書從人工智能的安全內(nèi)涵出發(fā)，首次歸納了人工智能安全體系框架，在系統(tǒng)梳理人工智能安全風(fēng)險(xiǎn)和安全應(yīng)用情況的基礎(chǔ)上，進(jìn)一步總結(jié)了國(guó)內(nèi)外人工智能安全的管理現(xiàn)狀，提出了應(yīng)對(duì)人工智能安全風(fēng)險(xiǎn)應(yīng)對(duì)和未來發(fā)展的建議。

　　上海國(guó)際問題研究院全球治理研究所副研究員魯傳穎代表上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院和上海社科院互聯(lián)網(wǎng)研究中心的聯(lián)合課題組，發(fā)布了《人工智能時(shí)代的國(guó)家安全：風(fēng)險(xiǎn)與治理》報(bào)告。報(bào)告根據(jù)人工智能技術(shù)和應(yīng)用的發(fā)展趨勢(shì)，分析了各國(guó)在不同領(lǐng)域所面對(duì)的安全風(fēng)險(xiǎn)，提出應(yīng)從提升風(fēng)險(xiǎn)意識(shí)、完善治理體系、加強(qiáng)監(jiān)管能力和探求國(guó)際合作等來構(gòu)建風(fēng)險(xiǎn)分析和應(yīng)對(duì)框架，提升國(guó)家安全的韌性。

　　騰訊公司生態(tài)安全研究中心高級(jí)研究員韓李云博士代表騰訊公司安全管理部和上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院發(fā)布了《人工智能賦能網(wǎng)絡(luò)空間安全：模式與實(shí)踐》報(bào)告。該報(bào)告聚焦網(wǎng)絡(luò)安全，分析了網(wǎng)絡(luò)空間安全的演進(jìn)和風(fēng)險(xiǎn)趨勢(shì)，結(jié)合騰訊AI安全應(yīng)用全布局和國(guó)內(nèi)外企業(yè)的30多個(gè)最佳實(shí)踐，詳細(xì)闡釋人工智能賦能網(wǎng)絡(luò)空間安全（AI+安全）的最新進(jìn)展。最后韓李云指出，人工智能安全將成為人工智能產(chǎn)業(yè)發(fā)展最大藍(lán)海，人工智能技術(shù)路線豐富將改善安全困境，網(wǎng)絡(luò)空間安全將驅(qū)動(dòng)人工智能國(guó)際合作。