- 博客(15)
- 收藏
- 关注
RSS订阅原创 自然语言处理11——深度学习应用
通过预训练语言模型得到情感语义树：将原始数据传进BERT中得到每一时刻的编码，将编码输入到attention中，包含1.计算上层的节点情感语义值时关注下层哪一部分，2.上层层与层之间的attention，输出为一颗情感语义树。输入基本序列经过编码后经过中间层对整句话进行情感分类，并找到其中的情感词，将除了情感词的其他部分都保留，对整句话进行重构，1.让情感化模块在有监督的情况下学习增加情感；思路：将主题词丢到搜索引擎中，找到相关的文本，对其中的内容进行增删改，得到编辑向量，最后得到生成的文本。
2024-11-10 15:50:30
898
原创 自然语言处理10——预训练模型
第三范式：预训练+微调模式（详见自然语言处理9）；预训练时海量数据不需要标注，即无监督学习；由于数据量很大使得参数量也可以很大。
2024-10-30 20:14:27
1101
原创 自然语言处理9——深度学习
空出来的地方是需要模型训练的，即输出的是对空出来的地方的分类。传统：以普通文本或图数据库存储语料，来一个问句后对问句的类型进行分类，根据对问句的解析，到数据库中搜索，将得到的多个文本抽取出中心思想得出答案，再和问句比较一下是否有偏，修正后发出去。传统：抽取式，单文档按照句子的顺序抽出来句子，按段首的句子权重较高，有较多关键词的句子权重较高，有转折的句子后边权重更大点等给句子以权重；模型优化：CBOW的输出维度由词集的维度决定，可能会很大，每一个值都需要计算它的误差值反向传播回去，计算量非常大。
2024-10-23 21:19:05
1179
原创 自然语言处理8——语义分析
关键词：代表文章重要内容的一组词应用：信息获取、自动摘要、文本聚类、文本分类有监督学习无监督学习TF-IDFTextRank主题模型：LSA、LAI、LDA。
2024-10-22 21:20:21
1111
原创 自然语言处理7——句法分析
随机地给一个参数值得到一个语法，根据文法和训练语料，得到语法规则使用次数的期望值，以期望次数用最大似然估计得到语法参数新的估计值，得到新的语法，由得到的新语法得到使用次数期望值，重新估计语法参数。输入的句子可能是比较随性的，构造的分析树就容易出错，规则不一定覆盖所有的语言现象，有些应用不需要一个完全句法分析树，只需要告诉哪些词可以作为一个组块。方法：采用动态规划算法，将句法分析树的概率计算转化为句法分析树的子树的概率计算。方法：采用动态规划算法，将句法分析树的概率计算转化为句法分析树的子树的概率计算。
2024-10-16 23:20:42
1394
原创 报错：module ‘tensorflow._api.v2.distribute‘ has no attribute ‘tpustrategy‘解决方法
报错：module ‘tensorflow._api.v2.distribute’ has no attribute ‘tpustrategy’啊这个报错困扰了我一天，百度了一圈发现问题可能是之前下载的tensoflow版本是2.2.0要升级到最新的版本才可以。于是我兴冲冲地用命令行去更新，安装完成之后，本地的确实更新到2.4.1版本了，但是虚拟环境里完全没有！！踩坑了一圈，我终于，找到了解决方法打开Anaconda Prompt！！！！win10如何查看安装的tensorflow是CPU还是GP
2021-01-25 00:09:31
2753
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人