学习笔记

论文链接本文将先介绍论文中的LoRA技术，然后以BERT为例在IMDB数据集上代码实现运用这项微调技术。代码+数据。

本文将先介绍架构和技术细节，然后介绍一个使用IMDB数据集情感分类的实战。IMDB数据集分为25000条训练集和25000条测试集，是情感分类中的经典公开数据集使用BERT模型进行情感分类，测试集准确率达到93%

因为最近在看T5，里面讲到一些分词的方法如BEP，因为现在都是在玩大模型，那么语料也就都很大，而且还需要适配不同的语言，而不同的语言又不一定像英文那样按空格切分就行，例如咱们的中文，所以就需要一些适用性更广的方法了。

这个主要是我想记下来方便以后用的时候好直接copy这个例子就是跑流程的，里面的参数都是随便设的，效果不怎么好，但是流程总得跑通吧。首先是停用词表见https://blog.youkuaiyun.com/qq_52785473/article/details/122639365?spm=1001.2014.3001.5502然后是数据2022-1-21-21.csv文件如下（例子里就使用了新闻标题）：时间,新闻标题,URL,新闻内容(01月21日 00:03),30万股民沸腾！5家中企获准免费仿制新冠口服药，

在自然语言处理中，处理句法结构树是比较常见的处理问题，如何对句法结构树进行遍历，以及如何抽取出其中的层次关系，是值得去深究的。本文将从Stanfordcorenlp的句法结构树和nltk中的Tree的数据结构入手，进行对句法结构树的层次遍历，抽取出句子中所包含的句法的层次结构。首先需要安装Stanfordcorenlp(请自行优快云)，然后安装nltk(pip一下就可以用其中的Tree模块了)上代码from stanfordcorenlp import StanfordCoreNLPfrom n