高级数据标注与增强:合成数据、创建与融入模型策略
1. 合成数据、数据创建与数据增强概述
在机器学习领域,合成数据、数据创建和数据增强是解决数据问题的重要手段。目前,信用卡号码扫描是一个广泛使用纯合成数据的案例。当你在手机应用中添加信用卡号码时,可选择拍照识别而非手动输入。识别信用卡号码的模型很可能基于纯合成数据构建,无需人工标注。
信用卡号码最初是结构化数据,印在实体卡上,拍照后成为受限问题,即对 16 位数字的重构。由于隐私和安全问题,没有大规模的公开扫描信用卡数据集。而且,如果扫描失败,用户通常也愿意手动输入卡号。
大多数使用合成数据的应用仍需要一些数据标注,以下是一些常用的补充人工标注的策略:
- 数据创建 :让标注者创建数据是解决数据不足的有效方法。在语音数据创建中,这种方法很常见;对于文本数据,它能填补数据空白。尽管生成的文本不如自然文本真实,但总比没有数据好。
- 数据增强 :在计算机视觉中,常见的数据增强技术包括翻转、裁剪、旋转、变暗等,以增加训练数据的多样性。在自然语言处理(NLP)中,也有类似的技术,如用同义词替换单词、反向翻译和掩码语言建模。
2. 数据创建
数据创建有多种方式,包括人工创建和自动化创建。
- 人工创建数据 :以疾病爆发数据集为例,让标注者想象自己正在经历疾病爆发,使用基于规则的系统为每个标注者生成不同的提示。规则会根据标注者是直接经历、目睹还是间接听说疫情,以及感染或暴露的人数等因素来变化提示,以获取尽可能多的多样性,克服人工文本的局限性。
-
超级会员免费看
订阅专栏 解锁全文

1948

被折叠的 条评论
为什么被折叠?



