浅谈AI落地之分类问题

前言

曾在游戏世界挥洒创意，也曾在前端和后端的浪潮间穿梭，如今，而立的我仰望AI的璀璨星空，心潮澎湃，步履不停！愿你我皆乘风破浪，逐梦星辰！

心得1：

提高模型训练的精度，两方面着手：数据的质量 + 训练的轮次。

心得2：

在处理分类问题时，训练集中每个类别数据量必须均衡。反言之，当训练模型的数据量有多有少的时候，模型最后输出的结果会偏向数据量多的那一方。

心得3：

数据分布不均衡怎么搞？首先，一般来说，在NLP里只能处理占比较多的分类，给他截断成其他类别的数据量。小模型+视觉里的话，除了截断，还可以调整损失函数为focalLoss，这是专门来处理样本分布不均衡的问题的。最早用这个技术解决样本分布不均衡的模型是yolo。

心得4：

imbalanced库可以解决数据不均衡的问题。一般采用欠采样（under sampling），简单地说就是把多的数据变少一点。过采用（over sampling）一般不采用，因为这是在瞎造数据。

心得5：

文本生成模型，举个例子，gpt2-chinese，文本生成的原理就是每次生成判定每个词的概率，当do_sample=True的时候，每次生成概率最大的那个字，这就解释了为什么do_sample=True的时候冻结了生成模型的随机性。