- 博客(11)
- 收藏
- 关注
原创 transformers库中的Trainer运行出现CUDA out of memory
假设你有 4 个 GPU,编号为 0, 1, 2, 3。如果你设置了 os.environ[“CUDA_VISIBLE_DEVICES”]=‘2’,那么程序会将编号为 2 的 GPU 映射为程序中的 GPU 0,从而只使用这一块 GPU。通过设置 os.environ[“CUDA_VISIBLE_DEVICES”]=‘2’,你的程序会认为只有编号为 2 的 GPU 存在,并且只会在这个 GPU 上运行计算任务。如果一个程序只需要一个 GPU,你可以指定一个特定的 GPU 而不是默认使用全部可用 GPU。
2024-08-17 10:07:43
678
原创 纵向联邦学习原理介绍——LR,XGBoost,SplitNN
作为一种保护隐私的分布式训练技术,联邦学习近几年成为学术界研究的热点话题,很多研究关于联邦学习的效率、安全性、隐私性展开讨论。最近在企业中联邦学习的应用也逐渐开展,常见的技术是基于FATE的联邦学习。
2022-05-28 20:21:46
5048
2
原创 【联邦学习邂逅密码学系列】基于同态加密算法python代码实现
联邦学习是一种参与方之间联合隐私训练的新范式,受到学术界和工业界的关注。然而一些研究表明,联邦学习传输的中间信息,例如横向联邦学习中的梯度信息或者纵向联邦学习中的嵌入表示存在隐私泄露的风险。如何保密这些中间信息是一个重要研究问题。在这个系列中讨论如何将同态加密技术应用于联邦学习,保护参与方的数据隐私。
2022-05-21 09:53:45
11899
10
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人