在线经济，安全赋能 ——2020世界人工智能安全高端对话成功在沪举办

7月10日，2020世界人工智能安全高端对话在上海世博中心成功举办。在面对常态化疫情防控的特殊时期，此次高端对话以线上线下、视频直播相结合的方式举行。作为2020年世界人工智能大会主题论坛，安全高端对话以“在线经济，安全赋能”为主题，由世界人工智能大会组委会主办，赛博研究院承办，腾讯安全战略研究部、上海观安信息技术股份有限公司、上海社会科学院互联网研究中心协办，杭州安恒信息技术股份有限公司、丰畇智能科技（上海）有限公司等支持。

当前，人工智能正处在技术孕育突破、场景深度应用、产业加速变革的活跃期。上海把人工智能置于战略发展优先位置，促进其更好地与产业转型、创造美好生活、优化城市治理紧密结合，加快建设“上海高地”。此次高端对话通过高级别研讨形式，汇聚国内外政府决策者、学界专家和业界精英，共话智能时代的机遇与挑战，深入研讨人工智能安全的战略、技术与产业图景，护航在线新经济健康发展。

在领导致辞环节，原国家信息化专家咨询委员会常务副主任周宏仁表示，当前信息技术的创新性发展正在形成全球信息化发展的第二个拐点，即信息化转向以智能化为中心，构造一个人工智能驱动的世界。同时应避免片面性、重视安全研究的科学性，处理好安全与发展的关系。

中国互联网发展基金会理事长马利强调，如何沉着应对挑战、深入把握创新机遇，提升国际话语权、引领世界人工智能安全发展方向，是当前中国人工智能安全发展的重中之重。

上海市人民政府办公厅副主任、上海市城市运行管理中心常务副主任徐惠丽谈到，近年来上海紧抓城市现代化治理“牛鼻子”，以升级建设“一网统管”系统为抓手，通过智能化手段，聚焦疫情防控、复工复产等重点工作，不断提高城市管理精细化水平和现代化能级。城市生活有多丰富，城市治理就有多复杂。“人民城市人民建，人民城市为人民”，保障人工智能、大数据、云计算等新兴技术的安全应用是现代化城市治理工程的关键所在。

上海市委网信办总工程师杨海军认为，必须全面认识人工智能安全问题，统筹协调网络安全与信息化的关系，充分发挥人工智能的“头雁”效应，引导人工智能安全、健康发展。

上海市经济和信息化委员会总工程师刘平指出，人工智能技术是推动新一轮产业变革的核心驱动力和重要引擎，赋能在线新经济、数字新基建发展，但人工智能的“双刃剑”影响日益显现，需要更加宏观的思考和更务实的实践应对新的挑战。

腾讯安全战略研究部总经理李佳谈到，人工智能技术为应对安全问题提供了得力助手，与此同时，人们关注的技术伦理也给技术应用带来启发，如何高效、长远地应用技术，实现科技发展，是技术应用面临的新课题。

护航AI安全应用，启动AI数据安全风险评估平台

论坛上，中国科学院何积丰院士、上海市委网信办总工程师杨海军、上海市经信委软件和信息服务业处处长刘山泉、观安信息首席专家张照龙共同启动了数据安全风险评估平台。该平台在上海市人工智能产业安全专家咨询委员会指导下，由观安信息牵头，针对人工智能应用场景中的数据安全实现多层级、多维度风险评估，为企业对人工智能系统开展自评以及第三方测评机构针对人工智能项目开展风险评估提供技术、工具和平台。此外，高端对话延续往届论坛特色研究成果，由赛博研究院和观安信息联合发布了《人工智能数据安全治理报告》。报告旨在数字新基建、数据新要素、在线新经济背景下，构建包括治理思路、治理原则和治理路径的综合性人工智能数据安全治理框架。

畅谈AI安全赋能，共话智能化科技健康发展未来

在此抗击新冠疫情中，人工智能、大数据、5G等新兴技术在疫情联防联控中发挥了重要作用。赛博研究院和腾讯安全战略研究部联合研究编著了《人工智能时代公共安全风险治理》最新图书。全书探讨了人工智能在公共安全风险治理中的创新应用，提出运用人工智能技术变革，提升公共安全风险治理水平的前瞻性策略和路径。该书是面向新时代国家治理体系和治理能力现代化建设的一次探索，也是以科技与人文相融合探寻科技善治前沿思想的一次实践。

随后，上海社会科学院互联网研究中心主任惠志斌主持了以“人工智能时代公共安全风险治理的机遇与挑战”为题的圆桌分享。

上海市经信委软件和信息服务业处处长刘山泉谈到“在线新经济”背后的重要支撑是智能交互技术对数据的应用，因此数据对于“在线新经济”至关重要。数据要做到可信，算法要做到可靠，运用要做到透明。当下的“新基建”建设拓展了网络安全的边界，对传统的信息安全和物理安全认知框架形成了新的挑战。对于新的安全需求和监管要求需要再思考，打造新时期的安全保障是一个综合性和立体性的过程。

上海市大数据中心副主任王晓妹谈到，上海当前的两网建设是“牛鼻子”工作，数据是这两网的底座。对于政府而言两网建设是政府职能的转变，是数据对政府规制、服务、决策三方面的全方位赋能。在保障数据安全的过程中，应该正视安全的发展的关系，注重数据从静态到动态的安全变化，数据安全从传统安全管理向动态安全运营模式转变。以数据为基石的人工智能既能是麻烦的制造者，也能是红利的释放者，以人为本是解决一切问题的核心。

上海市委党校城市社会研究所所长马西恒谈到，当前大家关注的安全问题已经从个体生命财产安全扩展到社区和国家安全，形成了一种全领域、全过程和全主题的安全覆盖面，在这一过程中技术发挥着重要的推动作用。安全的理念、安全的组织和安全的运作都受到技术的影响，由此带来的安全问题让人们面临在便利、安全和自由的三维框架选择，人们需要调整原有的观念，才能找到和技术安全共生的平衡点。

复旦大学数字与移动治理实验室主任郑磊谈到，以非典疫情与新冠疫情的数据应用对比而言，非典疫情使用更多的统计性数据，而新冠疫情则更多运用个案数据，数据的颗粒度更小。这就可能导致数据过度暴露的问题，在强调数据要从上往下赋能的同时，却可能面临基层数据保护不足的问题。因此，技术、法律、管理需要对数据使用的度进行把控，应该考虑人和技术的关系，关心技术的尺度和温度。

腾讯安全战略研究部网络治理研究专家赵玉现谈到，此次疫情中健康码的迅速开发使用体现了一种互联网思维的转变，遇到问题能够首先通过新兴技术解决的意识逐渐增强，这也说明是人们对互联网认知更加深刻。腾讯一直将科技向善作为业务发展的愿景，致力于用技术创造更大的善治，以腾讯在老年人和未成年人上网保护中的实践向大家阐述了如何将技术向善落到实处。同时强调科技向善需要技术本身的自律，行业形成新风尚。

保障AI安全发展，探讨产、学、研多方共治之道

人工智能安全注入数字经济新动力。中国科学院院士何积丰阐述了人工智能与人类社会的共生关系以及智能制造中的人工智能体系。对人工智能带来的数据安全、算法安全等安全风险做了全面的评估，提出算法可解释性、隐私保护、公平建模、可信验证、主动防御、伦理法律、系统伦理等七条人工智能安全对策。中国工程院院士倪光南强调“新基建”要重视信息技术体系创新，坚持独立自主和对外开放相统一。

数据安全保障人工智能新发展。观安信息首席技术官胡绍勇认为，随着人工智能发展与数据安全更加深度地交织融合，数据安全问题已然成为人工智能突破关键转轨期所必须解决的重要制约瓶颈。安恒信息首席科学家刘博指出，数字经济时代，网安烟囱式建设依然普遍，保障数据安全成为重中之重。网络安全能力建设应该从策略、模型到能力中台的方向进化，能力中台是业务前台与数据后端的枢纽，健全的安全能力中台包括识别、防御、检测和响应等四体系。通过网络安全运营中心、安全能力资源池、智能检测、自动化响应、全栈感知、动态防护立体构建安全大脑，打造数字经济时代网络安全运营新模式。

智能时代开启公共安全新治理。联合国人工智能和机器人中心主任伊莱克利·伯利兹提出应该开放和共享人工智能案例和数据，提高技术透明度。腾讯云政务行业技术总监李晓辉介绍了健康码作为科技赋能公共安全治理的典型应用的启发意义，通过城市“上码”构建基础码、业务码体系，塑造城市基础信息管理体系，连接城市服务，实现智慧城市建设。德国波恩大学教授梅飞虎则追问了智能时代下技术对社会的治理与个人自主性影响的新议题。