2018世界AI大会·AI安全高端对话论坛 | 人工智能安全：挑战与机遇

9月18日，“2018世界人工智能大会·人工智能安全高端对话”在上海国际会议中心召开。作为世界人工智能大会的分论坛之一，对话由上海赛博网络安全产业创新研究院和中国信息通信研究院安全研究所承办，腾讯公司安全管理部、上海社会科学院互联网研究中心和《探索与争鸣》杂志社共同协办。

对话汇聚了全球人工智能安全领域的顶级专家、学者和产业精英，共商人工智能的安全机遇、挑战及其应对之道。上海社会科学院副院长王振主持论坛开幕式。中国互联网发展基金会理事长马利、上海市经济和信息化委员会巡视员陈跃华、中国信息通信研究院副院长王志勤以及腾讯信息安全执行委员会主任、腾讯公司安全管理部副总经理杨鹏出席活动并致辞。

（中国互联网发展基金会理事长马利）

马利理事长表示人工智能已经成为了国际竞争的新焦点、经济发展的新引擎，如何利用好人工智能的发展机遇，应对新的挑战，在国际舞台上发出中国声音，是当前中国人工智能发展的重中之重。陈跃华巡视员指出上海高度重视人工智能产业的发展，希望各位专家、学者积极建言献策，前瞻性地研究和引导人工智能发展中的安全伦理问题，共同推进人工智能在健康、可持续的轨道上稳步发展。王志勤副院长认为，人工智能的发展要趋利避害，中国信通院在积极促进人工智能技术发展与产业应用的同时，高度重视人工智能安全的研究工作。杨鹏副总经理表示腾讯一直致力于用“互联网+”连接一切，强调科技应当为我所用，造福于人类，AI+安全的加号代表着一种“赋能”和“助力”的理念，要求其更好地利用人工智能，保障、维护好人工智能的安全问题，实现健康有序的发展。

（人工智能安全发展上海倡议）

共同发起倡议 凝聚人工智能安全共识

作为全世界共同面临的重要议题，高端对话专家组发起了《人工智能安全发展上海倡议》。上海社会科学院互联网研究中心执行主任惠志斌介绍了倡议的主要内容：人工智能安全发展要遵循“面向未来、以人为本、责任明晰、隐私保护、算法公正、透明监管、和平利用、开放合作”的八大理念。

人工智能技术和应用飞速发展，推动经济社会创新发展的同时，也在重塑人类安全的未来。对话围绕“人工智能安全伦理规范”、“人工智能重塑国家安全”和“人工智能赋能网络安全”三大主题，把脉人工智能安全发展未来。

安全伦理规范 最大限度消除不利影响

在人工智能的研发和应用过程中，都需要优先考虑伦理规范的问题。中国信息通信研究院安全研究所副所长覃庆玲主持了“人工智能安全伦理规范”的主题讨论。

峰桥集团总裁陈实在发言中提到，未来如果人工智能拥有和人类相似的感知，是否也应当和人类一样拥有一定的权利。他认为各国都应重视对人工智能安全伦理规范的思考，将技术发展与社会伦理置于相同的环境下充分思考，减小人工智能带来的伦理冲击，保证人工智能在全世界共同的伦理规范内健康发展。

（欧亚集团科技战略主任保罗•特里奥洛）

欧亚集团科技战略主任保罗•特里奥洛提到中国在建立人工智能伦理规范方面发挥了积极的作用，并重点比较了中国、美国和欧盟在人工智能监管方面的差异，提出在监管机制层面各国政府可达成共同点的建议。

（圆桌讨论）

论坛还开设了圆桌讨论环节，畅谈人工智能安全伦理规范。华东政法大学人工智能与大数据指数研究院院长高奇琦、UCloud联合创始人兼CEO季昕华、碁震KEEN公司创始人兼CEO王琦在圆桌环节，就隐私保护、就业替代、机器权力等议题上各抒己见，分别表达了各自在人工智能领域方面的思考。高琦奇回应了人工智能时代的隐私保护问题,引出“透明人”的概念，并进一步就隐私的定义进行发问。季昕华基于数据的所有权看待隐私问题，阐述了人工智能分析数据，但不获取原始数据的解决思路。谈及弱人工智能时代到强人工智能时代的人机关系，王琦认为人工智能的算法需要审核，无法具备人类的隐私权。覃庆玲最后总结表示，人工智能的发展未来充满了不确定性，值得深入思考和自由畅想。

风险与治理 人工智能重塑国家安全

人工智能越来越多地被应用到战略决策辅助系统和智能军事系统，基于人工智能的技术代差将对国家安全力量对比产生不可逆的影响，迫切需要审视人工智能对维护国家安全提出的新要求。在“人工智能重塑国家安全”会议阶段，腾讯研究院副秘书长毛晟斌主持了会议。

中国科学院复杂系统管理与控制国家重点实验室主任王飞跃指出，网络安全的传统模式将会向虚实纠缠引导的平行范式转化，一个网络安全系统的实力，很大程度上可能并不取决于其物理本身，而是取决于与其伴生的软件定义的人工系统映像。

联合国人工智能和机器人中心主任伊莱克利•伯利兹认为，人工智能为解决网络安全事件、系统漏洞、信息保护等提供了更加高效、智慧的解决方案，但同时也容易被非法利用，对社会造成危害。因此，应对现阶段人工智能的发展充分评估，并建立起各方参与的协同合作模式。

（圆桌讨论）

国防科技大学前沿交叉学科学院国家安全与军事战略研究所所长朱启超、复旦大学哲学学院教授徐英瑾、斗象科技创始人袁劲松对国防军事、网络攻防、自动化武器等话题进行了互动交流。朱启超立足国防军事安全，阐述人工智能在战争和反恐中的新应用，并且认为人工智能拓宽人们对战争的理解，重新赋能军队，造成军事力量组织模式的变化。袁劲松回应了人工智能对网络基础设施所起作用的问题，并以网络防御实现完全自动化为例进行说明。徐英瑾则是从人工智能与哲学的相似之处展开，深入探讨了人工智能背后的哲学道理。

AI+安全 人工智能赋能网络安全

人工智能技术正在被用于智能网络武器威胁网络安全的同时，它也在网络安全漏洞检测、恶意软件识别、不良信息智能审核、防范网络犯罪等方面发挥着重要作用。上海社会科学院互联网研究中心执行主任惠志斌主持了“人工智能赋能网络安全”的环节。

（中国科学院院士何积丰）

中国科学院院士何积丰指出，在工业安全领域，人工智能既可以进行安全防范，包括攻防对抗、内容分析、代码混淆、异常检测等，也存在开发工具漏洞和算法具有不确定性等问题。针对安全问题，需建立主动防御的智能体系。

中国移动研究院首席科学家冯俊兰认为，5G网络服务众多垂直工业，数据挖掘技术更易保护用户隐私信息，并提出了“通信改变社会”的愿景，强调电信运营商应当加强与垂直行业的互信和协作。

（圆桌讨论）

眼神科技CEO周军、杭州安恒信息技术股份有限公司首席科学家刘博、腾讯科恩实验室总监吕一平等与会嘉宾在圆桌讨论中为推动人工智能安全技术发展，防范网络空间安全风险积极建言。周军认为目前人工智能处于弱人工智能的起步阶段，由于安全数据和常规的交易数据较少，AI+安全领域发展不会太快。吕一平则回应了无人驾驶的问题，汽车行业目前处于网联阶段，通往自动驾驶阶段还需一定时间，除了技术达标以外，更重要的是法律法规的问题。刘博讲到黑客利用AI技术实施攻击的事件非常多，并分享了面对攻击的防御之道。

三大重磅报告 描绘解析人工智能安全

对话重磅推出了三份人工智能安全专题报告。牛金行研究员代表中国信息通信研究院安全研究所发布了《人工智能安全白皮书》。白皮书从人工智能的安全内涵出发，首次归纳了人工智能安全体系框架，在系统梳理人工智能安全风险和安全应用情况的基础上，进一步总结了国内外人工智能安全的管理现状，提出了应对人工智能安全风险应对和未来发展的建议。

报告《人工智能安全白皮书》

上海国际问题研究院全球治理研究所副研究员鲁传颖代表上海赛博网络安全产业创新研究院和上海社科院互联网研究中心的联合课题组发布了《人工智能时代的国家安全：风险与治理》报告。报告根据人工智能技术和应用的发展趋势，分析了各国在不同领域所面对的安全风险，提出应从提升风险意识、完善治理体系、加强监管能力和探求国际合作等来构建风险分析和应对框架，提升国家安全的韧性。

报告《人工智能时代的国家安全：风险与治理》

腾讯公司生态安全研究中心高级研究员韩李云博士代表腾讯公司安全管理部和上海赛博网络安全产业创新研究院发布了《人工智能赋能网络空间安全：模式与实践》报告。该报告聚焦网络安全，分析了网络空间安全的演进和风险趋势，结合腾讯AI安全应用全布局和国内外企业的30多个最佳实践，详细阐释人工智能赋能网络空间安全（AI+安全）的最新进展。最后韩李云指出，人工智能安全将成为人工智能产业发展最大蓝海，人工智能技术路线丰富将改善安全困境，网络空间安全将驱动人工智能国际合作。

报告《人工智能赋能网络空间安全：模式与实践》

本次高端对话中外大咖云集，就现阶段人工智能安全领域所取得的成就展开讨论，并深入分析了人工智能安全所面临的挑战与机遇。人工智能对于安全是一把“双刃剑”，对话探讨了安全伦理规范的重要性、如何用AI更好地助力网络空间安全与提升社会风险防控能力等议题。这对保障人工智能健康发展、造福人类未来有着重要意义。