Federated Learning 框架¶
联邦学习发展了这么久了(2016-2022),现在很多大公司也开始做联邦学习相关的内容了,这篇就简单讲一下我接触和了解到的联邦学习框架的介绍吧。因为有些轻量级的框架我阅读了代码,而一些工业/企业级框架我只了解了一下架构,说的也不一定全对,大家辩证看待就好。
每个框架都有其优点和缺点,如果时间在计划内,会做一个对比图。
其实从这也能看出来,已经有不少公司和企业认识到了 FL 的前景,也投入的不少研究。
以下排名不分先后
Quick View¶
这一节主要是为了快速让读者知道联邦学习框架有哪些,以及它们背后的公司、设计逻辑和优缺点。
FATE - Webank¶
Code: https://github.com/FederatedAI/FATE
Docs: https://fate.readthedocs.io/en/latest/?badge=latest
Architecture:
优点:
缺点:
TensorFlow-Federated - Google¶
Code: https://github.com/tensorflow/federated
Docs: https://www.tensorflow.org/federated
优点:
缺点:
Pysyft - OpenMind¶
Code: https://github.com/OpenMined/PySyft
Docs: https://www.openmined.org/
优点:
缺点:
9nFL - JD¶
Code: https://github.com/jd-9n/9nfl Docs: Unknown
最后一次更新时 2020.12,不知道现在是不是还活着...
FedLearner - ByteDance¶
Code: https://github.com/bytedance/fedlearner
Clara - NVIDIA¶
Docs: https://docs.nvidia.com/clara/
有 Release,但是好像未开源?
Paddle-FL - Baidu¶
Code: https://github.com/paddlepaddle/PaddleFL
Docs: https://paddlefl.readthedocs.io/en/latest/
优点:
缺点
AngelFL - Tencent¶
Code: Unknown
Docs: Unknown
未开源,不做评价了,想了解可以看官方的说明https://zhuanlan.zhihu.com/p/112983993, 还有官网https://data.qq.com/powerfl/
flower - Adap¶
Code: https://github.com/adap/flower
Docs: https://flower.dev/docs/
优点:
缺点:
iBond-flex - tongdun¶
Code: https://github.com/tongdun/iBond-flex
Docs: Unknown
plato - Huawei¶
Code: https://github.com/TL-System/plato
Docs: Unknown
IBMFL - IBM¶
Code: https://github.com/IBM/federated-learning-lib
Docs: http://ibmfl-api-docs.mybluemix.net/index.html
Architecture:
FedML¶
Code: https://github.com/FedML-AI/FedML
Docs: https://doc.fedml.ai/
Architecture:
- 利用 MPI/NPCC 进行底层进程驱动,当然也提供了 SingleThread 的版本
- 实现了多种通讯协议的支持
OpenFed¶
Code: https://github.com/FederalLab/OpenFed
Docs: https://openfed.readthedocs.io/README.html
现在加上我,一共 5 个 Star,只能说新的不能在新了...
优点:
FedLab¶
Code: https://github.com/SMILELab-FL/FedLab
Docs: https://fedlab.readthedocs.io/en/master/index.html
Architecture:
优点:
缺点:
OpenFL - Intel¶
Code: https://github.com/intel/openfl
Docs: https://openfl.readthedocs.io/en/latest/index.html
Architecture:
优点:
FederatedScope - alibaba¶
Code: https://github.com/alibaba/FederatedScope
Docs: https://federatedscope.io/
Paper: https://arxiv.org/abs/2204.05011.pdf
Architecture:
今日[2022.5.5]刚开源的项目
- 利用 yacs 配置文件
- gRPC 通信协议
- 提供了 Dockerfile
- 以事件驱动的消息队列,异步处理
- 可以自定义的计算资源,通过 register 来注册
- Auto-tuning
- 提供多种隐私保护机制,同态加密、差分隐私,以及攻击方法
- 提供了 attack 方法
Framework Comparison¶
在这一节,会用几个不同的维度来对比这些框架,还未完成,仅占位。
Summary¶
Framework | Sync | HFL | VFL | Hetero | Async | Encrypt | Cross Platform |
---|---|---|---|---|---|---|---|
FederatedScope |
Reference¶
[1] https://zhuanlan.zhihu.com/p/387101962
创建日期: 2022年4月27日 19:47:05