ISC 2021|AI安全威胁频发 共建开放创新的生态成关键

　　近日，作为互联网安全大会(ISC 2021)九大峰会之一的“中国人工智能安全创新峰会”在北京国家会议中心成功召开。此次大会在中国人工智能学会的大力支持和ISC组委会的积极筹备下，由中国人工智能学会主办，CAAI人工智能与安全专业委员会、360政企安全集团共同承办。峰会邀请了CAAI人工智能与安全专业委员会领导、专家学者、机构代表、业界友商等共同参与，围绕人工智能安全发展趋势及最新研究成果与应用等前沿话题展开探讨。

　　AI安全不容忽视

　　作为新一轮科技革命和产业变革的重要驱动力量，人工智能正在对经济、社会发展带来颠覆性影响。但人工智能技术是一把"双刃剑"，在推动数字经济社会创新发展的同时，也可能引发一系列安全挑战。北京大学教授陈钟从人工智能赋能网络攻击的新兴威胁场景、技术现状、发展趋势以及应对之道进行详细解读，他表示未来网络安全将呈现零信任、无边界、赛博化的特点，人工智能面临着软件漏洞、系统安全、网络安全、传感器欺骗、数据投毒等五大威胁。因此人工智能系统在被广泛使用之前，需要保证系统将以受控、充分定义和充分理解的方式安全地操作。陈钟强调，需要进一步加强对人工智能技术的攻关，积极探索人工智能与区块链的融合发展，使互联变互信，创造更加安全、可信的美好未来。

　　北京大学教授陈钟

　　随后，中国科学院大学教授、博士生导师、密码学院院长、数据保护研究中心主任荆继武向与会者分享了对智能时代信息化发展形势的判断，讲述了信息安全技术的新方向——白盒化。他表示，人工智能技术正在加速网络共同体的形成，安全技术将逐步走向开放化、白盒化，他以“密码算法的保密与开放”、“技术细节的保密与开放”为例对其进行深入解读。他强调，白盒化的安全是未来全球安全市场的重要方向，它的发展需得到市场支持，公开体系结构，从而推动安全技术产品的专业化完善和深度融合。

　　中国科学院大学教授、博士生导师、密码学院院长、数据保护研究中心主任荆继武

　　目前真正能代表人工智能最前沿发展的莫过于深度学习，尤其是深度学习在无人驾驶、医疗决策等领域的应用。浙江大学 "百人计划"研究员、博士生导师、浙江大学滨江研究院国产信创研究中心副主任纪守领以《深度学习模型的安全可解释性与鲁棒性》为主题分享了在深度学习模型上的研究成果，并从对抗样本攻防对深度学习模型的鲁棒性进行了拆解，从模型层面、数据层面、承载系统层面对深度学习模型的安全性进行分享。

　　浙江大学 "百人计划"研究员、博士生导师、浙江大学滨江研究院国产信创研究中心副主任纪守领

　　AI对抗开辟网络安全新战场

　　中科院信息工程研究所副主任陈恺通过实例向观众展示了如何利用声音、图像中的噪声信息“骗”过人工智能大脑，对抗自动驾驶目标识别系统。他表示，人工智能技术虽然广泛应用于计算机视觉、自然语言处理、自动驾驶等领域，但人工智能系统容易受到攻击，限制了其在关键安全领域的应用。因此提高人工智能系统对抗攻击的鲁棒性在人工智能进一步发展中发挥着越来越重要的作用。陈恺表示只有掌握了各种攻击方式对于人工智能造成干扰的原因，才更有能力制定相应的防御思路，在模型之前可以放一些检测器进行检测对抗样本，以此提升网络的安全性能。

　　中科院信息工程研究所副主任陈恺

　　目前，针对网络空间的攻击无所不在，网络安全与治理已经成为学术界和产业界共同关注的科技前沿问题。北京邮电大学教授李小勇以《AI及威胁情报驱动的跨网系行为检测与异常发现》为题，从网络空间安全与威胁情报、威胁情报的发展与应用、AI及威胁情报驱动的跨网系异常检测这三个方面进行了分享。他指出，利用异构多源行为大数据高效感知、IP流量异常行为高效识别与利用、空口异常行为精准识别与利用、跨网系异常行为融合分析与态势感知等关键技术可以进行跨网系异常检测，智能威胁云的情报可以减少攻击面、监测未知威胁、实时安全防护，实现智能防御。

　　北京邮电大学教授李小勇

　　共建开放创新的AI安全生态

　　近年来，人工智能技术的发展和应用不断推动着网络安全攻防自动化和智能化的水平，目前已经在恶意代码检测、恶意流量分析、漏洞挖掘、僵尸网络检测、网络灰产检测等各领域有了广泛的应用。360集团AI安全实验室主任邹权臣在演讲中表示，各个场景、各个领域的人工智能系统都存在着被攻击和被欺骗的可能，因此亟需构建人工智能安全创新环境，通过开源开放与高等院校和科研院所进行对接与成果转化，促进人工智能安全行业持续、健康、快速发展。值得一提的是，360安全大脑成功入选科技部“国家新一代人工智能开放创新平台”，实现了大规模数据集、知识库、AI模型、算法算力的开放。目前已经与清华大学、中科院自动化所、中科院信工所、北京瑞莱智慧科技有限公司、浙江大学等开展平台共建合作。未来希望更多优秀的机构和团队参与到这个平台生态的建设过程中。

　　360集团AI安全实验室主任邹权臣

　　数字化转型驱动技术变革，传统的IT架构被颠覆，未知威胁变得更隐蔽，因此智能、坚固的安全体系比以往任何时候都重要，因此构建主动感知、敏捷智能、精准预警、全时可用的云网边端一体化安全防护体系成为关键。新华三技术有限公司安全研究院院长顾成杰在演讲中强调，云智原生将赋予企业和组织与生俱来的云与智能的架构和能力，加速释放数据价值，企业要以原生的思维构建云安全体系，驱动安全与云计算深度融合;通过全域同构，实现公有云、私有云、边缘云多场景的安全统一、极简运营、一致体验;通过多云管理，打造同构/异构多云安全一体化服务，打通本地和公有云侧的安全能力。

　　新华三技术有限公司安全研究院院长顾成杰

　　随着人工智能技术步入快车道，人工智能芯片使用成本的快速降低，深度学习框架等核心技术的开源与共享，AIoT智能硬件的快速发展，均在助力人工智能行业成功破圈。在智能物联网(AIoT)时代，智能硬件产品正在逐步融入我们的生活，进一步改变我们的生活方式。360智慧生活集团技术中心总经理、360集团硬件专业委员会执行主席孙浩在演讲表示，这个趋势对应的是AI算力的平民化、边缘化，即使在算法理论没有进一步突破的前提下，AI能够凭借更加低廉的硬件结合边缘，融入终端设备，走入生活给整个行业来巨变。随后，孙浩从AIoT融入家庭安全和智能家居场景的维度对360在智慧生活领域的思考和实践做了分享。

　　360智慧生活集团技术中心总经理、360集团硬件专业委员会执行主席孙浩

　　可以预见，数字时代，人工智能作为最具颠覆性和战略性的核心关键技术，与网络安全相辅相成。人工智能可以提升网络安全工作的的效率，网络安全也要为人工智能的发展保驾护航。但人工智能安全不是任何一家公司、社区能够独立解决的问题，因此，需要构建开放创新的AI安全生态助力人工智能技术的稳健发展。