qq_38241346的博客

获取tokenizer对象from transformers import BertTokenizertokenizer = BertTokenizer.from_pretrained('bert-base-chinese')encode的几种方法对比总结：tokenizer默认和encode_plus含义一样，即加好了token_type_ids，mask等label，类似于dict一样访问这个函数tokenizer.encode 只是把 input_ids的结果拿下来，然后后面的属.

Think Locally, Act Globally:Federated Learning with Local and Global Representations略读最大的贡献：server为part（后面）模型，只做汇总，不做训练。client节点分成前后两个part，前后区分以server为区分点，只需要将后部分的parameter传给server（communication cost变少）具体算法见下图：...

LotteryFL: Personalized and Communication-Efficient Federated Learning with Lottery Ticket Hypothesis on Non-IID Datasets阅读笔记针对FL的问题:1. statistical heterogeneity2. communication efficiency主要优化策略：使用Lottery Ticket hypothesis，因为worker上面只是子网络，所以通讯量下降了。因为w

训练完train_datasets之后，model要来测试样本了。在model(test_datasets)之前，需要加上model.eval(). 否则的话，有输入数据，即使不训练，它也会改变权值。（这样就导致测试结果不对）这是model中含有batch normalization层所带来的的性质。...

RuntimeError: The size of tensor a (4) must match the size of tensor b (3) at non-singleton dimension 0读取格式不对改正方法：image = Image.open(image_path).convert('RGB')需要转RGB模式