<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[Bigbao的专栏]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/u014400239</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; u014400239]]></copyright><item><title><![CDATA[一种解决bert长文本匹配的方法]]></title><link>https://blog.youkuaiyun.com/u014400239/article/details/102925139</link><guid>https://blog.youkuaiyun.com/u014400239/article/details/102925139</guid><author>u014400239</author><pubDate>Tue, 05 Nov 2019 21:40:12 +0800</pubDate><description><![CDATA[引言
bert1提出来后打开了迁移学习的大门，首先通过无监督的语料训练通用的语言模型，然后基于自己的语料微调(finetune)模型来达到不同的业务需求。我们知道bert可以支持的最大token长度为512，如果最大长度超过512，该怎么样处理呢？下面这边论文提供一种简单有效的解决思路。
Simple Applications of BERT for Ad Hoc Document Retriev...]]></description><category></category></item><item><title><![CDATA[ALBert论文阅读笔记-缩减版的bert，模型参数更少，性能更好]]></title><link>https://blog.youkuaiyun.com/u014400239/article/details/102709166</link><guid>https://blog.youkuaiyun.com/u014400239/article/details/102709166</guid><author>u014400239</author><pubDate>Wed, 23 Oct 2019 19:30:47 +0800</pubDate><description><![CDATA[引言
自从Bert被提出来后，后续的研究者大多基于bert进行改造，提升预训练语言模型性能，从而提高下游任务的性能。比如ERINE、BERT_WWM、MASS、MT-DNN、RoBERT等等。从GLUE榜上我们可以看到，似乎现在的语言模型有越来越大的趋势，虽然我们的训练资源也是从GPU单卡到GPU多卡，到现在TPU，但不是每个公司都这么有钱，特别对个人，有可能就是一块卡，怎么样在资源有限的情况下，...]]></description><category></category></item><item><title><![CDATA[基于pandas和seaborn进行数据可视化以及相关性分析]]></title><link>https://blog.youkuaiyun.com/u014400239/article/details/71170810</link><guid>https://blog.youkuaiyun.com/u014400239/article/details/71170810</guid><author>u014400239</author><pubDate>Thu, 04 May 2017 15:11:38 +0800</pubDate><description><![CDATA[本博客学习pandas数据结构和seabon，以kaggle数据集为例，完成数据可视化以及相关性分析。数据总共12列，其中Survived列为target属性（y属性）。加载原始数据pandas数据结构可以方便实现数据预处理，包括基本元素统计、均值、缺失值以及过滤，加上seaborn和matplotlib实现数据相关性分析以及特征可视化分析。]]></description><category></category></item><item><title><![CDATA[基于pandas进行数据预处理]]></title><link>https://blog.youkuaiyun.com/u014400239/article/details/70846634</link><guid>https://blog.youkuaiyun.com/u014400239/article/details/70846634</guid><author>u014400239</author><pubDate>Thu, 27 Apr 2017 11:10:43 +0800</pubDate><description><![CDATA[参加kaggle数据挖掘比赛，就第一个赛题Titanic的数据，学习相关数据预处理以及模型建立，本博客关注基于pandas进行数据预处理过程。包括数据统计、数据离散化、数据关联性分析引入包和加载数据import pandas as pd
import numpy as np
train_df =pd.read_csv('../datas/train.csv')  # train set
test_d]]></description><category></category></item><item><title><![CDATA[欢迎使用优快云-markdown编辑器]]></title><link>https://blog.youkuaiyun.com/u014400239/article/details/70842183</link><guid>https://blog.youkuaiyun.com/u014400239/article/details/70842183</guid><author>u014400239</author><pubDate>Thu, 27 Apr 2017 09:56:59 +0800</pubDate><description><![CDATA[欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来，用它写博客，将会带来全新的体验哦：
Markdown和扩展Markdown简洁的语法
代码块高亮
图片链接和图片上传
LaTex数学公式
UML序列图和流程图
离线写博客
导入导出Markdown文件
丰富的快捷键
快捷键
加粗    Ctrl + B 
斜体    Ctrl + I 
引用    Ctrl]]></description><category></category></item></channel></rss>