
联邦学习
文章平均质量分 53
Yonggie
只写优质原创,坚决绝拒绝抄袭 | 研究员 | 广州大学 | 香港中文大学深圳FNii | pytorch_geometric(PyG)、FATE contributor
展开
-
【亲测有用】2024年timm从本地加载模型
timm本地加载。有图有真相:https://github.com/huggingface/pytorch-image-models/discussions/1826。其他的过时的方法就别看了。(当然我这个过几年也会过时)原创 2024-04-16 16:55:53 · 1179 阅读 · 0 评论 -
【FATE联邦学习】FATE框架的大坑,使用6个月有感
虽然有种种不足,但是FATE框架仍然在一众相关框架里面在to B端是比较出色的框架。很多大厂的框架早就已经废弃不更新了,还剩微众银行的还在持续更新,并且持续开源运营。剩下的就剩很多开源的模拟框架,没有写落地的模块,只能科研和玩玩玩!如果没有新的to B框架的出现,现在是没得选的。原创 2023-10-20 12:29:42 · 574 阅读 · 0 评论 -
AnsibleFATE部署过程
基本上按照就行了,先做before deploy,再做three side guide.md。原创 2023-09-25 19:20:15 · 227 阅读 · 0 评论 -
【FATE联邦学习】AnsibleFATE离线部署出现AnsibleUndefinedVariable: ‘ansible_ssh_host‘ is undefined.
手动加入 ansible ssh host变量原创 2023-08-23 10:27:42 · 288 阅读 · 0 评论 -
【FATE联邦学习】Fateflow module connection error!
Fateboard出现下面的情况。是因为你没起FATE服务。原创 2023-07-10 14:20:08 · 253 阅读 · 0 评论 -
【FATE】联邦学习 optimizer在FATE的自定义trainer中被改变
使用torch的optimizer添加了2组parameter,传参进入FATE的trainer后,optimizer被改变,且FATE框架无提示。[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-I9vA6ec9-1688611983896)(https://user-images.githubusercontent.com/31330044/251026326-46379778-8b50-4ebc-a486-d9b4f27fdbf4.png)]原创 2023-07-06 10:57:06 · 264 阅读 · 0 评论 -
【FATE联邦学习】非分类、回归任务,如何获得联邦模型的输出?
在上述代码我返回了一些假的数据,因为如果返回数据的格式不符合,Fateboard会直接报错,无法进入到下一步。所以放在那里,没用。如果是图片、文本、token embedding等,用这种方式根本拿不到模型的输出。交涉,社区肯定了这种方法拿不出。并且给了个方法,在自定义的trainer中的。函数,直接保存输出。不在通过上述方法获得。如何自定义trainer,在官方文档有。一般来说,从FATE框架中获得数据使用。但是这样子在目前的1.x的FATE中,只能说现在只能先这样用了。原创 2023-06-30 14:51:36 · 1057 阅读 · 1 评论 -
【FATE联邦学习】如何查看FATE框架中已经部署的模型?
命令行中我没有办法找到,文档我也找不到相关的信息。每个名称里面是训练ID,可以看到已经部署的模型。里面,能看到曾经部署过的model。原创 2023-06-28 15:01:47 · 235 阅读 · 0 评论 -
【FATE联邦学习】Model structure is not defined, nn_define is None, please check your param
简单来说是没有识别到模型的结构,原因多种多样。原创 2023-06-28 10:43:38 · 100 阅读 · 0 评论 -
【FATE联邦学习】 AttributeError: type variable not exists, call __init__ of super class
原因是自己定义的dataset的init函数中没有调用super的init。原创 2023-06-28 10:40:00 · 73 阅读 · 0 评论 -
【FATE联邦学习】get out put data报错output dir = result[“directory“]KeyError:directory“
主要在于predict函数原创 2023-06-27 14:38:55 · 206 阅读 · 0 评论 -
【FATE联邦学习】Fateboard删除任务记录
下,有很多记录,每个记录都有相应的文件。原创 2023-06-15 14:31:57 · 223 阅读 · 0 评论 -
【FATE联邦学习】使用flow命令查看FATE服务情况
我感觉是由于联邦学习的特殊性,不能够让各方看到整个服务中有什么,因为联邦的各方相互不信任,于是也看不到服务中的其他部署模型,这样就没办法定向进行攻击。所以对于各方来说,只有约定好的各方才知道有联邦的模型(而且需要指定id),才能用其做预测获得结果,不然根本无从知晓其他方部署的模型。原创 2023-06-13 14:20:13 · 703 阅读 · 0 评论 -
【FATE联邦学习】如何获得训练好的联邦学习联邦模型进行预测?
在平时写python时候,可以直接model eval后输入数据进行下游任务评估就可以。但是FATE好像没有local mode进行prediction。原创 2023-06-12 15:48:31 · 1229 阅读 · 0 评论 -
【FATE联邦学习】FATE 自定义Trainer
自己定义了模型后,需要自行定义训练方式。这里文档给了方法,但是大部分还是需要自己看源码摸索。原创 2023-06-08 16:53:36 · 723 阅读 · 0 评论 -
【FATE联邦学习】本地测试不报错,但启用FATE框架后出现module not found
大概率是你没有使用他们init_env的环境下载那个包。,然后在这个terminal下重新。安装完成后,就不会出现这个错误了。,你会发现竟然还能再安装一次。原创 2023-05-18 15:22:13 · 154 阅读 · 0 评论 -
【FATE联邦学习】model not init, call init_model() function
在local_mode下,不要使用t.CustModel进行实例化,而是直接使用原本的类进行实例化。如果你设置了trainer.local_mode(),那么trainer里面的model不可以是t.CustModel()的实例。原创 2023-05-17 16:15:46 · 471 阅读 · 0 评论 -
【FATE联邦学习】高度costumized定制联邦学习 costumize all所有步骤
homo场景: https://fate.readthedocs.io/en/latest/tutorial/pipeline/nn_tutorial/Homo-NN-Customize-your-Dataset/hetero场景:https://fate.readthedocs.io/en/latest/tutorial/pipeline/nn_tutorial/Hetero-NN-Customize-Dataset/速记:在加入自己的数据集.py。原创 2023-05-15 10:39:37 · 456 阅读 · 0 评论 -
【FATE联邦学习】FATE是否支持batch分批训练?
在homo训练,自定义神经网络的场景下使用FedAvg训练器能够实现batch训练。但是Reader是否能加载进来,要看机器,因为Reader应该是一次性全部读取的。原创 2023-05-05 11:12:24 · 270 阅读 · 0 评论 -
【FATE联邦学习】Model must be a fate-torch Sequential, but got <class ‘models.SimpleNet‘> do remem
在FATE1.10,原生的homo nn的场景只能支持torch Sequential来的模型,也就是这样的不支持用Class定义的,但是sequential的模型肯定不能满足需求的。于是FATE就后续引入model zoo来解决这个问题。可以参考:https://github.com/FederatedAI/FATE/blob/master/doc/tutorial/pipeline/nn_tutorial/Homo-NN-Customize-Model.ipynb。原创 2023-04-30 16:41:07 · 136 阅读 · 0 评论 -
【FATE联邦学习】FATE联邦学习使用GPU、指定cuda下标
FATE框架1.x支持homo nn的GPU训练原创 2023-04-28 09:54:56 · 1212 阅读 · 0 评论 -
【FATE联邦学习】自定义数据集自定义神经网络模型下的横向纵向训练
自定义数据集,然后再本地测试一下。成功输出后,要手动在下新建数据集文件,把上文的代码扩充成组件类的形式,如下。原创 2023-03-09 11:37:18 · 1108 阅读 · 4 评论 -
【FATE联邦学习debug】save_to_fate() ValueError: save to fate not working, please ch
代码都是拷贝的,只是不使用那个函数。其实就是把你新定义的那个数据集加载进来就是了,直接把save to fate那些代码删掉就行了。我来重新写一个这个官方的demo,不使用这个函数的。你可能并不是用jupyter在搞官方那个demo。但是他官方demo就是用的jupyter,原创 2023-03-08 15:22:32 · 530 阅读 · 0 评论 -
【FATE联邦学习】standalone版Fateboard修改配置
很多其他程序(比如vscode的code server)也会使用这个 127 0 0 1:8080 socket进行通信,这样就没办法远程用vscode去开发了,所以需要修改下Fateboard的socket配置。他这个位置其实是以安装包为根目录的,所以你记得去哪里找。不过他这个,我是在找到的……可能因为,所以目录不一样。为了确认是否是这个配置文件,我查看了官方安装包的文件确实是这个,使用standalone的Fateboard配置文件在里面。吧里面的port随便改个其他的就行了。原创 2023-03-08 11:41:47 · 788 阅读 · 0 评论 -
【FATE联邦学习debug】 No module named ‘federatedml‘
目前我是直接在vscode调试的terminal里面再次source了那个env文件,再次调试是可以运行的,但是vscode里面还是会显示这个错误(我这也算是个暂时的方法了),有没有更好的方法?那接下来其实可以给conda的python解释器添加环境变量,如何做?中,本身提示我们要更新一些环境变量,如果不export那些变量,下面的。可以看到这个库本身在下载的FATE包里。这个的原因是环境变量的事情,因为在。其实也是无法测试成功的。是无法找得到这个库的。原创 2023-03-07 15:58:45 · 686 阅读 · 0 评论 -
【FATE联邦学习debug】Feature shape is smaller than header shape
数据的最后一行是空行,需要删除掉最后的空行。原创 2023-03-07 10:24:18 · 321 阅读 · 0 评论 -
【FATE联邦学习】的文档集合 collections of FATE framework documentations
其实有点不方便,文档乱乱的,各处都有我这里做个集合吧,其实都是官方做的。因为FATE是微众银行的开源,所以好处是有国内的社交平台联系号,其。网站也给了哔哩哔哩的官方账号,账号里面有很多教程资源,都是中文的。这个应该是专门给国内的。原创 2023-03-06 09:35:11 · 232 阅读 · 0 评论 -
【FATE联邦学习】Fateboard的启动,如何使用Fateboard debug?
fateboard文档 https://fate.fedai.org/fateboard/github Fateboard文档 https://github.com/FederatedAI/FATE-Board/blob/master/README-CN.md。原创 2023-03-01 15:22:38 · 2258 阅读 · 0 评论 -
【FATE联邦学习】使用pipeline数据上传、读取、训练、保存
---title: FATE数据上传、读取、训练、保存原创 2023-02-28 15:11:42 · 2202 阅读 · 1 评论 -
FATE联邦学习centos成功部署
官方文档:https://fate.readthedocs.io/en/latest/deploy/standalone-deploy/#1-description。我用的文档中的第二种安装方式,没用docker。原创 2023-02-28 11:12:18 · 880 阅读 · 5 评论