qq_41768451的博客

介绍1、双向预训练模型，使用MLM(masked language model):2、预训练模型，降低模型复杂度BERT是自监督学习（无监督学习），结构是Transformer Encoder.结构： pre-training: 预训练阶段，使用无标注文本数据 fine-tuning: 在下游任务使用监督数据进行微调GPT Transformer只可以进行左边文本的自注意力计算BERT可以进行双向注意力计算输入/输出特征输入单个句子：每个句

人工智能导论第一讲什么是人工智能：智能机器能够在各类环境中自主地或者交互得执行拟人任务的机器人工智能(能力)人工智能(能力)是智能机器所执行的通常与人类智能有关的智能行为，如判断、推理、证明、识别、感知、理解、通信、设计、思考、规划、学习和问题求解等思维活动。凡是固定了算法的，基本上都不算AI弱人工智能（在某个方面的智能）应用效果很强强人工智能（综合的多方面的人...