广告
广告
您的位置 资讯中心 > 产业新闻 > 正文

微众银行分布式机器学习算法“联邦学习”的三种学习模式

2019-11-29 16:14:40 来源:中国金融时报网 点击:592

【大比特导读】这样的模型不仅需要一个机器学习算法,更需要一个分布式的机器学习算法。在分布式的机器学习算法之上,还要有各种加密的算法。在这个基础上,一共有三种模式来进行联邦学习。

2019年世界人工智能大会在上海世博会中心拉开帷幕,海内外大咖齐聚,学术界、工业界交汇,共同讨论人工智能的未来。“联邦学习”,英文叫“Fed-erated Learning”,数据的各个拥有方,在各自数据不出本地的情况下建立模型,并且让这个模型能够共享,那么在建立模型的过程中便不会侵犯用户的隐私,整个建模的过程就叫联邦学习的框架和算法。

微众银行首席人工智能官杨强教授也在大会中表示:联邦学习已经成为AI在学术界和工业界的新趋势,未来行业面临的社会大众的要求和监管会越来越严格,联邦学习能够在满足用户隐私保护和数据安全需求的同时,实现多方共赢。

Google在2016年就开始进行一个项目,在安卓系统的手机用户中建立联邦学习,解决用户个人终端设备的数据隐私问题。首先初始化模型下载到各终端,各终端根据自己本身的数据更新模型参数,不同的终端就会产生不同的更新结果,这些更新被送到云端进行聚合,汇总后的模型参数将作为下一次更新的初始参数,这样一直迭代直到收敛。用这样的一个方法既能保证用户隐私,同时又能共享一个通用模型,利用群体智能在云端不断更新。

微众银行分布式机器学习算法“联邦学习”的三种学习模式

这样的模型不仅需要一个机器学习算法,更需要一个分布式的机器学习算法。在分布式的机器学习算法之上,还要有各种加密的算法。在这个基础上,一共有三种模式来进行联邦学习。

机器学习

第一种叫做横向联邦学习

横向联邦学习是指当两个数据集的用户不同,重叠较少,但用户特征重叠较多时,我们把数据集按照横向(即用户维度)切分,并取出双方用户特征相同而用户不完全相同的那部分数据进行训练。

第二种叫做纵向联邦学习

纵向联邦学习是说两个数据集的用户特征重叠较少,但它们却有较多的重叠用户,那么我们就把数据集按照纵向(即特征维度)切分,并取出双方用户相同而用户特征不完全相同的那部分数据进行训练。

第三种叫做联邦迁移学习

如果两个数据集既不重叠用户特征,又不重叠用户,那么在这个场景下,微众银行也提出一个新的算法,叫做联邦迁移学习。它可以利用迁移学习的算法,把这两方数据模型的本质挖掘出来,把抽象的模型加以聚合,在聚合的过程中保护用户隐私,也取得了非常大的成功。

声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请与我们联系,我们将及时更正、删除,谢谢。

分享到:
阅读延展
人工智能 算法 机器学习
  • 浪潮刘军:人工智能计算力是这个时代“免费的午餐”

    浪潮刘军:人工智能计算力是这个时代“免费的午餐”

    近日,浪潮AI业务举行年度盘点,浪潮信息副总裁、浪潮AI&HPC总经理刘军阐述了浪潮AI的技术和理念,并对技术趋势做出解读。

  • 生物不再是坑,人工智能终结「搬砖」|智周报告核心版

    生物不再是坑,人工智能终结「搬砖」|智周报告核心版

    分子诊断因其精确性和强因果性,近年来其市场份额逐渐增大。分子诊断的上游市场关注于诊断原材料的提供,包括各种生物酶、多肽、生物指针等;而中游市场囊括了大部分的试剂和仪器的提供方;下游市场集中于教育机构及医疗机构的实验室分析服务。

  • 闽清县政协委员刘奇英:闽清应重视人工智能与实体

    闽清县政协委员刘奇英:闽清应重视人工智能与实体

    刘奇英除了是福建奥博兹新材料科技有限公司董事长,同时还是闽清县第十三届政协委员,她时刻牢记自己的使命,主动调研,关注民生问题,认真撰写提案,积极反应社情民意,认真履职。

  • 新加坡促进经济向数字化转型

    新加坡促进经济向数字化转型

    推广应用人工智能技术,将成为新加坡新的经济增长点。新加坡地域狭小,不断寻找新的经济增长点,既是其多年探索得出的成功经验,也是保持国际竞争力的重要诀窍。

  • 英伟达推出智能机器人对话人工智能技术

    英伟达推出智能机器人对话人工智能技术

    百度云分别与泰康保险、银联商务等金融机构打造针对身份审核、移动支付等场景下人工智能解决方案。基于百度云人脸识别技术,用户只要上传自拍照片,再结合手机验证码和密码等手段,就可以完成客户身份核验,实现大量单据业务在线办理。

  • 百度云推出全新ABC一体机 并将人工智能实现落地商业化

    百度云推出全新ABC一体机 并将人工智能实现落地商业化

    百度云分别与泰康保险、银联商务等金融机构打造针对身份审核、移动支付等场景下人工智能解决方案。基于百度云人脸识别技术,用户只要上传自拍照片,再结合手机验证码和密码等手段,就可以完成客户身份核验,实现大量单据业务在线办理。

  • 改变电网?量子技术可以保障泛在电力物联网信息安全

    改变电网?量子技术可以保障泛在电力物联网信息安全

    量子计算可能在电网信息安全中贡献一臂之力。用量子算法库中的机器学习算法来分析威胁信息、判断安全态势,可提升安全监测态势感知的效率。未来,量子算法的高算力优势还有可能在电网潮流计算和稳态分析中发挥作用。

  • 人工智能系统学习量子力学的基本定律

    人工智能系统学习量子力学的基本定律

    以常规方式求解这些方程需要大量的高性能计算资源(数月的计算时间),这通常是用于医学和工业应用的新型专用分子的计算设计的瓶颈。新开发的AI算法可以在几秒钟内在笔记本电脑或移动电话上提供准确的预测。

  • 人工智能的训练算法 以发现网上喷子

    人工智能的训练算法 以发现网上喷子

    阿尔瓦雷斯说:“这是我所热爱的关于加州理工学院的东西之一:能够弥合界限,发展社会科学和(在这种情况下)计算机科学之间的协同作用。

  • 人工智能的未来完全以人为中心

    人工智能的未来完全以人为中心

    我们在软件和云服务中看到的很多人工智能都更接近于自动化。自动化是基于输入和响应:一个输入X = y的一个响应日益增长的复杂的算法,计算进行决定如何应对一个给定的输入可以非常复杂,所以自动响应创建以这种方式可以给智慧的印象。但在现实中,它们是预先确定的。

  • 2019:人工智能和计算社会科学相结合,AI的未来将会怎样?

    2019:人工智能和计算社会科学相结合,AI的未来将会怎样?

    这一定程度上是表现在现今人工智能算法的进展,后者最大程度上是用大数据为基础的,而中国硕大的人口规模是世界上最好的天然的大数据试验场。

  • 人工智能为什么应用广泛?客户的需求是关键!

    人工智能为什么应用广泛?客户的需求是关键!

    在选择行业之外,对于AI企业来说,也需要配置更加定向的人才。除了传统的算法人才,还有机械设计人员、电气设计人员以及现场制造工厂的技术服务人员,这都是在服务具体工业客户时必不可少的环节。

  • 改变电网?量子技术可以保障泛在电力物联网信息安全

    改变电网?量子技术可以保障泛在电力物联网信息安全

    量子计算可能在电网信息安全中贡献一臂之力。用量子算法库中的机器学习算法来分析威胁信息、判断安全态势,可提升安全监测态势感知的效率。未来,量子算法的高算力优势还有可能在电网潮流计算和稳态分析中发挥作用。

  • 新十年开门红!数字化转型成效卓越,上汽乘用车再获两项行业大奖!

    新十年开门红!数字化转型成效卓越,上汽乘用车再获两项行业大奖!

    当人工智能、大数据、云技术、感知技术、机器学习等前沿技术渗透到传统产业,数字化、信息化转型已成了各行业必须面对的生存命题,对于体量庞大的大型传统企业来说,转型难度更大,力度也要更大。

  • 2020年的工业物联网解决方案有哪一些

    2020年的工业物联网解决方案有哪一些

    工业物联网(IIOT)或工业互联网汇集了出色的机器、高级分析和工作人员。它利用嵌入了人工智能和机器学习的机器的力量,它还使用了智能传感器和执行器来增强工业和制造流程。

  • 机器学习预测芯片程序代码的速度

    机器学习预测芯片程序代码的速度

    为此,研究人员记录了给定微处理器用于计算基本块指令的平均周期数,基本上是启动,执行和关闭的顺序,而无需人工干预。使过程自动化可以快速分析成千上万个块。

  • 最不起眼的微处理器也能实现机器学习?

    最不起眼的微处理器也能实现机器学习?

    但是Tiny ML有不同的目标。想象一下,如果机器学习模型,能够把对话和助听器上的背景噪音区分开来。如果您无法在设备本身上安装该模型,那么您就需要在运行在该模型上的云保持无线连接。但如果您能够安装它的话,直接在助听器上运行该模型更有效、更安全。

  • 2020年人工智能将如何发展?专家预测在这里

    2020年人工智能将如何发展?专家预测在这里

    不管你如何评价,PyTorch是当今世界上受欢迎的机器学习框架。 PyTorch是2002年引入的Torch开源框架的衍生产品,于2015年可用,并且在扩展和库中稳步增长。

微信

第一时间获取电子制造行业新鲜资讯和深度商业分析,请在微信公众账号中搜索“大比特商务网”或者“big-bit”,或用手机扫描左方二维码,即可获得大比特每日精华内容推送和最优搜索体验,并参与活动!

发表评论

  • 最新评论
  • 广告
  • 广告
  • 广告
广告
Copyright Big-Bit © 1999-2019 All Right Reserved 大比特资讯公司 版权所有       未经本网站书面特别授权,请勿转载或建立影像,违者依法追究相关法律责任