人工智能行业产业观察07期：安全可控AI，安全的“A”，可控的“I”

请务必阅读正文之后的免责条款部分 [Table_Main][Table_Title]产业研究半月报2019 年 03 月 24 日 ， 07 期 安全可控 AI：安全的“A”，可控的“I” [Table_Summary]摘要： 本期产业观察聚焦于 AI 的安全可控，近五年 AI 爆发式地发展，并持续向各行业渗透。随着渗透率提升，AI 的局限和问题逐渐暴露，如对抗样本带来的安全隐患、原理不可解释等。能真正落地，并用于关键应用场景的必须是安全、可控、可理解的 AI，不然很难说服用户买单，尤其是企业级、政府级客户。解决这些问题，我们重点关注 AI DevSecOps、AI 赋能下的信息安全和可解释 AI 细分赛道的发展机遇。 AI 在各行业持续渗透，市场预期处于前所未有的高点。本次人工智能 AI 热潮从 2012 年开始发展，并随着谷歌 AlphaGo、AlphaZero 一次又一次战胜人类棋手而引爆。在产业层面，基于深度学习的 AI 确实被用于各个技术领域，如计算机视觉、语音识别、自然语言处理 NLP 等，并在各行业的应用场景中持续渗透，部分应用已开始商用，比如智能语音客服、医疗影像识别等。然而 AI 离真正落地还有差距，存在安全隐患和潜在社会问题。从 2012 年至今，AI 从训练到普及存在较多问题：1）AI 训练平台被发现致命漏洞；2）能通过对抗样本操控 AI 的判断；3）用AI 做好事，事倍功半，用来做坏事，同样危害极大，如后门攻击、电话骚扰、伪造他人信息；4）AI 决策不可解释、算法偏见等问题引发社会争议。存在致命安全隐患、不可控、不可解释的AI 难以实现真正落地，也很难说服客户买单，尤其是企业级和政府级客户。解决问题，打造安全可控 AI，需要科研、产业、政府齐心协力。从当前 AI 到安全可控的 AI 是个漫长的过程，在此过程中，三个领域至关重要、值得关注。1）可解释 AI、神经网络可视化帮助人们打开黑箱；2）AI DevSecOps 框架，覆盖 AI 从 0 到 1 到 100 的全生命周期安全；3）AI赋能安全，更强大的安全工具也能保障 AI 稳定运行，包括基于大数据主动防御。五大安全 AI 细分领域将迎来发展机遇。五个领域在海外均出现过独角兽、市场空间可期，且安全巨头们尚未涉足：1）安全信息与事件管理平台 SIEM，瀚思、青藤云；2）身份认证与管理平台 AM，芯盾、通付盾；3）应用性能管理平台 APM，博睿数据、基调网络；4）应用安全测试AST，几维安全、思客云；5）应用自我防护 RASP，默安科技、蓝海讯通。风险提示：对抗样本的危害存在被高估的可能性；可解释 AI 研究进度不及预期；[Table_Author]产业研究中心 作者：鲍雁辛 电话：0755-23976830 邮箱：baoyanxin@gtjas.com 资格证书编号：S0880513070005 作者：郑宇舟 电话：021-38676545 邮箱：zhengyuzhou@gtjas.com 资格证书编号：S0880118060037 [Table_DocReport]往期回顾 氢能社会，未来已来—日本氢能战略全解析 2019.03.20 京城的风，已吹向经济 2019.03.05 产业观察_解码新能源车全产业链 2019.02.01 国泰君安_产业观察_美国行之 JPM医疗健康周，拥抱创新药 2019.01.20 国泰君安_产业观察_从田间到餐桌，产业巨变开启生活之美 2019.01.14 产业观察：“字节跳动”，大数据+AI重塑移动互联 2018.12.25 产业观察 产业观察 请务必阅读正文之后的免责条款部分 2 of 37 目录 1. 人工智能，并非所想 ............................................................................. 4 1.1. 处在预期高点 .................................................................................. 4 1.2. 此 AI 非彼 AI .................................................................................. 5 1.3. 持续渗透行业 .................................................................................. 6 1.4. 特性决定局限 .................................................................................. 9 2. 应用部署，问题重重 ........................................................................... 10 2.1. 训练：平台存漏洞 ........................................................................ 10 2.2. 预测：决策被操控 ......................................................................... 11 2.3. 应用：滥用危害重 ........................................................................ 13 2.4. 普及：社会新问题 ........................................................................ 16 3. 安全可控 AI，才能落地普及 .............................................................. 20 3.1. 产业：打造安全 AI ....................................................................... 20 3.2. 产业：AI 赋能安全 ....................................................................... 22 3.3. 科研：可解释可控 ........................................................................ 29 3.4. 政府：法规限增速 .............................................................