NLP-CNN

卷积神经网络(特征提取)

一、可以完成的任务

1.检测任务
2.分类与检索

主要工作还是进行特征的提取。

3.超分辨率重构
4.医学任务等(OCR文字试别)
5.无人驾驶(就是识别前方道路)
6.人脸识别

区别:卷积网络与传统网络的区别

请添加图片描述

整体框架

请添加图片描述

二、卷积层

1.卷积层做了什么事

对于不同区域的得到的特征是不一样的,选择一种计算的方法,对于每一个小区域计算它应该的特征值是多少。请添加图片描述
请添加图片描述

2.卷积特征值计算方法

三通道分别计算然后相加。(R、G、B)请添加图片描述
(蓝色和红色的)对应位置相乘! 然后相加获得。
最终获得特征图表示

卷积中可以堆叠卷积
请添加图片描述步长与卷积核大小对结果的影响:步长越小,提取的特征越丰富,计算的效
率比较慢。在文本卷积中,步长并不一定;
尺寸与卷积核大小对结果的影响:尺寸越小,提取的特征越丰富;
边缘填充:( 最外围的数据用的比较少,通过在最外围外面在添一圈零,减少数据的损失!)
卷积核个数:(最终得到的特征图)

请添加图片描述

三、池化层(simple压缩,宽高减少)

1.最大池化(max pooling)请添加图片描述

每个位置把最大的取出来(即筛选,但是channel层次不变)

平均池化 即计算出平均特征取出!!

四、具体工作方式请添加图片描述

两次卷积,一次池化!主要是进行特征的提取。
最后完成转化为向量 实现分类结果的是全连接层!
请添加图片描述

### LSTM与CNN(包括Text-CNN)的组合及其应用 #### 组合方式 LSTM 和 CNN 的组合是一种常见的混合模型结构,在自然语言处理(NLP)和其他深度学习领域中广泛应用。这种架构利用了两种网络的优势:卷积神经网络(CNN)擅长提取局部特征并捕捉空间层次关系,而长短时记忆网络(LSTM)则能够建模时间序列数据中的长期依赖性。 一种典型的组合方法是在输入层先通过 CNN 提取局部特征[^3],随后将这些特征传递给 LSTM 进一步分析其上下文关联和全局模式[^1]。例如,在文本分类任务中,可以使用一维卷积操作来捕获 n-gram 特征,再由 LSTM 处理整个句子的时间维度信息[^2]。 另一种常见的方式是逆向设计——即让 LSTM 首先编码序列化数据作为高阶表示形式,之后借助全连接层或者多层感知器完成最终预测;而在某些情况下也会引入二维或三维卷积核作用于图像视频等领域内的复杂场景理解问题上。 #### 应用实例 以下是几个具体应用场景: ##### 文本情感分析 对于电影评论的情感极性判断而言,我们可以构建如下流程:首先采用 word embedding 将词语映射成固定大小向量矩阵;接着运用多个 filter sizes 的 one-dimensional convolution layer 来识别不同长度短语的重要性得分;最后把这些结果送入双向 lstm unit 中综合考虑前后句意影响从而提高准确性。 ```python from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Embedding, Conv1D, MaxPooling1D, LSTM, Dense model = Sequential() model.add(Embedding(input_dim=vocab_size, output_dim=embedding_dim)) model.add(Conv1D(filters=64, kernel_size=5, activation='relu')) model.add(MaxPooling1D(pool_size=4)) model.add(LSTM(units=100)) model.add(Dense(1, activation='sigmoid')) model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy']) ``` ##### 图像描述生成 当面对图片自动配字幕的任务时,则需结合视觉与语言两方面知识共同解决。此时可选用预训练好的 VGG 或 ResNet 等经典 cnn 架构抽取照片高层抽象概念,并将其转化为初始状态喂养至 rnn/lstm 单元里逐步生成对应文字说明。 ##### 跨模态检索 在跨媒体检索系统开发过程中,往往涉及到异质数据源之间的匹配度计算工作。比如查询一段音频片段最接近哪张静止画面?这时就需要分别建立针对各自类型的子模块来进行独立表征学习后再联合优化目标函数实现无缝对接效果评估。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值