ISC 2017人工智能论坛：从安全角度重新审视AI风险

　　近年来，人工智能逐步走进人们的视野，成为人们茶余饭后津津乐道的话题。凭借深度学习技术的“井喷式”发展，各种硬件产品中开始融入人工智能技术。人工智能大势所趋，这已经成为很多业内人士的共识。

　　9月13日，在以“万物皆变，人是安全的尺度”为主题的第五届中国互联网安全大会(ISC2017)人工智能技术应用安全论坛上，美国乔治亚大学教授、乔治亚安全与隐私学院院长李康、中科院软件所研究员苏璞睿、清华大学副教授张超、360 Team Serious团队成员肖奇学等众多业界专家齐聚一堂，从安全的角度重新审视人工智能技术的发展、风险、并对广泛的智能攻防安全研究进行了深入探讨及交流。

　　安全行业需要广义的人工智能

　　美国乔治亚大学教授、乔治亚安全与隐私学院院长李康在演讲中强调，安全行业需要广义的人工智能，每一个攻击做到极致就是在创建机器。

　　图：美国乔治亚大学教授李康在人工智能论坛上发表演讲

　　“人工智能我不能只局限外部的实现，当然取决于具体的应但是如果你的输出是被用户来控制的，那我觉得必须要回头来看看。”李康表示，目前黑产都在使用机器学习，这对安全是非常大的挑战。

　　360 Team Serious团队成员肖奇学认为，深度学习技术虽然能够使工作学习更加便捷高效，甚至推动了新一轮人工智能浪潮，但其在系统实现中的软件安全问题容易被大众所忽略。他结合软件系统漏洞的自动化发现和分析相关经验，详细讲解了学习语音和图像识别系统的攻击实例。

　　肖奇学指出，大部分AI应用系统都基于已有的主流AI框架实现。AI系统框架以及AI系统所依赖软件的安全漏洞，将可能对AI系统导致非常严重的影响。

　　黑客最害怕未知技术

　　安全行业的智能其中一个体现是在漏洞挖掘，分析和利用中的自动化。中科院软件所研究员苏璞睿认为，深度学习或者说漏洞挖掘自动化方面，自动化是主线。

　　“人工智能不仅仅可以改进安全，实际上安全也有助于完善人工智能。”苏璞睿说，机器学习只是解决中间的特定的场景和核心的问题，未来机器学习在漏洞方面的研究，需要思考怎么样寻找一些特定的漏洞研究的场景和问题。

　　此前参加了2016年美国DARPA组织的CGC比赛并闯入决赛的清华大学副教授张超从三个方面分享了人工智能在攻防方向上的最前沿研究：首先是人做攻防遇到的一些问题或者研究领域存在的问题一个简单分析;其次是如何实现CGC自动化攻防;最后是在这个AI时代怎样用AI技术辅助攻防。

　　卫达安全CEO张长河认为，黑客最害怕的防御技术，是来源于未知的技术。他在演讲中介绍了一种叫移动目标防御的新技术。这种技术就是SDN的思想，软件定义网络，软件定义安全，可以保证动态变换的时候业务不受影响。

　　当前，人工智能技术已经逐渐成为人们生活不可或缺的利器，其安全问题及应用方向的开拓也就自然成为阻挡在人们面前的一堵高墙，本届ISC2017人工智能技术应用安全论坛上，各位业界专家的专业知识与独到见解给更多的业内人士以深刻启示。相信这些经验和观点分享，将很快落到实处，推动人工智能技术的正向高速发展。