2021全球联邦学习研究与应用趋势报告-智谱AI

╳人工智能研究院知识智能中心中国工程院知识智能联合研究中心2021全球联邦学习研究与应用趋势报告2021 Global Federal Learning Research And Application Trend Report2021.09数据支持：AMiner.cn1主要发现联邦学习是一种新兴的人工智能基础技术。本报告从技术研究、行业应用、学者画像以及发展趋势等维度，较为全面深入地分析了联邦学习自2016年诞生至2020年的重要发展成就。联邦学习“中美双雄”格局显现•中美两国有关联邦学习的论文发布量遥遥领先于其他国家；在论文发布量TOP 10机构中，中美各占4席和3席；中美两国论文合作数量也全球最多，且半数以上的高被引论文来自中美两国，但美国的论文引用量显著领先，中国位居第二。•全球专利受理数量以中国地区最多，共1514项；美国位居第二，共579项。在专利申请数量TOP10机构中，中国占7席，美国占3席。•开源框架主要来自中美，其中OpenMined 推出的Pysyft 、微众银行的FATE和谷歌的TFF框架的热度居于全球前三位。•联邦学习领域的全球学者共计2,764名，中美分别拥有816和817名，各占全球总量的30%。未来联邦学习研究趋势将与算法模型和安全隐私技术相关•目前联邦学习研究热点主要聚焦在机器学习方法、模型训练、隐私保护三方面。•未来几年研究趋势将与算法模型和安全隐私技术相关，如Edge Computing（边缘计算）、Data Heterogeneity（数据异质性）、Internet Of Things（物联网）、Blockchain（区块链）、Wireless Communication（无线通信）、Communication Efficiency（沟通效率）等。•行业应用研究方向呈现出不断与区块链、物联网、车辆交互、5G等技术融合的态势。2人工智能之联邦学习——《2021联邦学习全球研究与应用趋势报告》编写团队顾问李涓子清华大学人工智能研究院知识智能中心唐杰清华大学人工智能研究院知识智能中心编写团队张淼张建伟张淳数据仇瑜赵慧军版式设计边云风3目 录报告说明• 数据范围• 联邦学习知识树引言• 人工智能可持续发展面临的困境• 联邦学习概念的介绍联邦学习技术研究与应用现状• 技术研究现状• 联邦学习框架与系统现状• 联邦学习行业应用现状联邦学习发展趋势• 研究趋势• 技术成熟度• 市场化与商业化趋势• 推行联邦学习的国内外标准• 建立联邦学习生态结语4报 告 说 明联邦学习（Federated Learning）是在进行分布式机器学习的过程中，各参与方可借助其他参与方数据进行联合建模和使用模型。参与各方无需传递和共享原始数据资源，同时保护模型参数，即在数据不出本地的情况下，进行数据联合训练、联合应用，建立合法合规的机器学习模型[1]。联邦学习是一种新兴的人工智能基础技术，其概念于 2016 年由谷歌公司H. Brendan Mcmahan 在论 文 Federated Learning of Deep Networksusing Model Averaging [2] 中最先提出，原本用于解决安卓手机终端用户在本地更新模型的问题，后经香港科技大学与微众银行杨强教授所领导团队在2018年将其扩展为机构间B2B分布式联合建模架构，包括按样本、特征分割以及异构多方建模，同时可以建立去中心协调器的Peer-to-Peer架构形式，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率，安全、可靠的机器学习。联邦学习同时包括鼓励多方持续参与合作生态的激励机制，建立正向激励的数据价值交易市场机制。当下，联邦学习已经被大量应用于金融[3]、安防[4]、医疗[5]、在线推荐系统[6]等领域。联邦学习有望成为下一代人工智能协同算法，隐私计算和协作网络的基础。《2021联邦学习全球研究与应用趋势报告》主要从技术研究、学者画像、主流框架、行业应用，以及发展趋势几大方面，较为全面深入地介绍联邦学习自2016年诞生以来到2020年的技术研究和应用进展，并展望该技术的未来发展方向与前景。（一）数据范围本报告研究数据范围是科技情报大数据挖掘与服务系统平台AMiner数据库所收录的2016-2020年期间与联邦学习研究主题强相关的论文数据、专利数据以及公开数据等。论文的引用量数据统计截止日期为2021年5月31日。（二）联邦学习知识树本报告根据联邦学习的关键技术和相关技术，利用AMiner 数据库中近年来该领域的高水平学术论文，挖掘出了全球活跃的联邦学习的重要技术点，并表征为知识树结构，如图1所示。[1]杨强、刘洋、陈天健等：《联邦学习》，载《中国计算机学会通讯》，2018年版，第49-55页。[2] McMahan, H. B., Moore, E., Ramage, D., & y Arcas, B. A. (2016). Federated learning of deep networks using model averaging. arXiv preprint arXiv:1602.05629.[3] https://www.fedai.org/cases/utilization-of-fate-in-anti-money-laundering-through-multiple-banks/[4] Liu, Y., Huang, A., Luo, Y., Huang, H., Liu, Y., Chen, Y., Feng, L., Chen, T., Yu, H., & Yang, Q. (2020). “FedVision: An Online Visual Object Detection Platform Powered by Federated Learning,” Proceedings of the AAAI Conference on Artificial Intelligence, 34(08), 13172-13179.5图 1 AI 2000人工智能子领域导图[5] Li W. et al. “Privacy-Preserving Federated Brain Tumour Segmentation,” In: Suk HI., Liu M., Yan P., Lian C. (eds) Machine Learning in Medical Imaging. MLMI 2019. Lecture Notes in Computer Science, vol 11861. Springer, Cham.[6] Ben Tan, Bo Liu, Vincent Zheng, and Qiang Yang. 2020. A Federated Recommender System for Online Services. In Fourteenth ACM Conference on Recommender Systems (RecSys '20). Association for Compu