自定义博客皮肤VIP专享

*博客头图：

点击选择上传的图片

格式为PNG、JPG，宽度*高度大于1920*100像素，不超过2MB，主视觉建议放在右侧，请参照线上博客头图

请上传大于1920*100像素的图片！

博客底图：

点击选择上传的图片

图片格式为PNG、JPG，不超过1MB，可上下左右平铺至整个背景

栏目图：

点击选择上传的图片

图片格式为PNG、JPG，图片宽度*高度为300*38像素，不超过0.5MB

主标题颜色：

RGB颜色，例如：#AFAFAF

Hover：

RGB颜色，例如：#AFAFAF

副标题颜色：

RGB颜色，例如：#AFAFAF

预览取消提交

自定义博客皮肤

上一步保存

qq_43655057的博客

原创【无标题】

DDP不能直接传入需要梯度的参数，而是要把不需要梯度的参数requirs_grad设置为False，模型所有参数都传入优化器！

2023-07-05 15:40:19 67 1

原创问题解决：/usr/local/gcc-9.4.0/lib64/libgomp.so.1: cannot allocate memory in static TLS block

报错：/usr/local/gcc-9.4.0/lib64/libgomp.so.1: cannot allocate memory in static TLS block)在transformers 版本4.25.1+gcc 版本9.4.0的配置下是可以正常导入DataCollatorForSeq2Seq的，因此猜测gcc版本没有更新。transformers 版本：4.28.1。gcc 版本：9.4.0。

2023-06-29 11:49:35 1111