【AI面试】CNN 和 Transformer 的问题汇总

已于 2024-11-06 20:45:11 修改
阅读量1.5k 收藏 7
点赞数 2
CC 4.0 BY-SA版权
分类专栏： 7天快速通过AI/CV面试 文章标签： cnn 人工智能 transformer
于 2023-05-13 15:32:24 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/wsLJQian/article/details/130657214
本文深入探讨了卷积神经网络（CNN）和Transformer的特点。CNN以其局部感知和权值共享为特征，适用于图像处理，而Transformer通过自注意力机制捕捉全局依赖关系，适合处理序列数据。两者各有优缺点，如CNN在处理固定大小输入时表现出色，而Transformer在全局建模上占优。理解这些特性有助于在实际任务中选择合适的模型。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录


​ CNN卷积神经网络和 transformer注意力机制相关的知识，是AI领域的一个基础知识点。一般面试官会从这里考场我们对基础知识点的理解程度，和对最新知识的学习跟进程度。以下这些问题入手：

  1. 卷积神经网络，有什么特点？
  2. 1*1卷积核有什么作用？
  3. 计算经过卷积的输出尺寸大小
  4. 空洞卷积你了解吗？有什么特点
  5. CNN和transformer两者相比，有什么优缺点？
  6. transformer的query、key、value是如何工作的？怎么产生注意力机制的
  7. attention有哪些类型和变种

后面，我们就带着这些问题，一一找到答案。

一、CNN

首先是听到卷积神经网络，立马就会顾名思义，卷积+神经网络。

0

1.1、卷积

卷积我们知道，在信息论

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【AI面试】工作和面试过程中，经常遇到的其他问题汇总一（持续更新）
钱多多先森
04-20 612
发散性的提问的汇总，考察日常工作学习的灵活性能力
【AI面试】工作和面试过程中，经常遇到的其他问题汇总二（持续更新）
钱多多先森
04-21 351
发散性问题汇总，考察灵活性和思考性
AI算法岗面试经验汇总.zip
10-22
AI算法岗面试经验汇总.zip
Python深度学习面试：CNN、RNN与Transformer详解
zevjay的博客
04-19 957
精通CNN、RNN、Transformer是成为一名优秀Python深度学习工程师的关键。深入理解上述常见问题、易错点及应对策略，结合实际代码示例，您将在面试中展现出扎实的深度学习模型基础和出色的模型构建能力。持续实践与学习，不断提升您的深度学习模型技能水平，必将在深度学习职业道路上大放异彩。
一文快速预览经典深度学习模型——CNN、RNN、LSTM、Transformer、ViT
最新发布
Gupao123的博客
06-03 1104
本文系统介绍了深度学习中的关键神经网络模型及其变体。首先详细解析了CNN（卷积神经网络）的基本结构（输入层、卷积层、池化层、全连接层、输出层）和运算原理，包括零填充方式和典型模型（LeNet-5、AlexNet等）。其次阐述了RNN（循环神经网络）的序列处理机制及其长期依赖问题，重点讲解了改进模型LSTM（长短期记忆网络）的门控结构和训练过程。最后介绍了基于自注意力机制的Transformer模型及其视觉应用ViT（Vision Transformer），包括多头自注意力机制和编码器-解码器架构。
复试专业前沿问题问答合集8-2——CNN、Transformer、TensorFlow
薛定谔的猫的博客
03-22 1091
深度学习中的的CNN、Transformer、TensorFlow的原理关系问答
面试题目总结（CNN）
aikudexue的博客
03-13 6008
1.CNN权值共享是什么 局部感知：即网络部分连通，每个神经元只与上一层的部分神经元相连，只感知局部，而不是整幅图像。（滑窗实现） （可行性）局部像素关系紧密，较远像素相关性弱。因此只需要局部感知，在更高层将局部的信息综合起来就得到了全局的信息。 权值共享：从一个局部区域学习到的信息，应用到图像的其它地方去。即用一个相同的卷积核去卷积整幅图像，不同的特征靠多个不同的卷积核实现。 （可行性）图像的局...
卷积神经网络（CNN）和Transformer这两个术语既可以指代整个网络架构，也可以指代网络中的单独层
qq_23865133的博客
03-05 1239
在深度学习中，看到很多人说CNN是架构，也有人说CNN是层。同时，也看到很多人说Transformer是架构，但有人说Transformer是层......我去了解了一下，卷积神经网络（CNN）和Transformer这两个术语既可以指代整个网络架构，也可以指代网络中的单独层，具体取决于上下文。
深度学习面试题之CNN
心向林丶的博客
06-06 6273
1、介绍下卷积操作的作用 卷积网络中的卷积核参数是通过网络训练出来的 通过卷积核的组合以及随着网络后续操作的进行，卷积操作可获取图像区域不同类型特征；基本而一般的模式会逐渐被抽象为具有高层语义的“概念”表示，也就是自动学习到图像的高层特征。 2、CNN结构特点 局部连接，权值共享，池化操作，多层次结构。 1、局部连接使网络可以提取数据的局部特征 2、权值共享大大降低了网络的训练难度，一个Filter只提取一个特征，在整个图片（或者语音／文本） 中进行卷积 3、池化操作与多层次结构一起，实现了数据的降维，将低
腾讯春招密籍：2024最全CNN面试题大全，深度学习达人都在秘密分享！
Von_016's Blog
03-19 2192
池化（Pooling）是CNN中用于减小特征映射尺寸、减少参数数量和计算量的一种操作，同时能够提高模型对输入变化的鲁棒性。池化操作通常应用在卷积层之后，通过对卷积层输出的特征映射进行下采样（subsampling）或池化来实现这些目的。池化的主要类型包括最大池化（Max Pooling）：在特征映射的指定区域内取最大值作为该区域的输出。最大池化能够有效地捕捉图像中的纹理特征，并且对小的位移保持不变性。平均池化（Average Pooling）：计算特征映射指定区域内的平均值，作为输出。
【面试题】人工智能工程师高频面试题汇总：Transformer篇（题目+答案）
华清远见IT实验室专栏
12-13 1031
随着人工智能技术的突飞猛进，AI工程师成为了众多求职者梦寐以求的职业。想要拿下这份工作，面试的时候得展示出你不仅技术过硬，还得能解决问题。所以，提前准备一些面试常问的问题，比如机器学习的那些算法，或者深度学习的框架，还有怎么优化模型，Transformer的一些知识，这些都是加分项，能有效提高面试通过率。本篇小编整理了一些高频的方面的面试题，这些题目都是从实际面试中总结出来的，非常具有代表性和实用性，希望对你有帮助。
白话Transformer&常见面试问题
qq_41915623的博客
05-20 2408
Tranformer现如今无论是在CV还是NLP，甚至现在非常或的LLM领域都非常重要！该架构是谷歌在2017年《Attention is all you need》中提出的，下面将分析本人对各个模块的理解+算法面试中的常见问题。
深度学习面试100题（第1-50题）：经典常考点CNN
TEDDY的博客
03-14 2841
深度学习面试100题（第1-5题）：经典常考点CNN - 知乎 https://zhuanlan.zhihu.com/p/39185031 深度学习面试100题（第6-10题） - 知乎 https://zhuanlan.zhihu.com/p/39367605 深度学习面试100题（第11-15题） - 知乎 https://zhuanlan.zhihu.com/p/39450005 深度...
深度学习的颠覆性发展：从卷积神经网络到Transformer
AI天才研究院
12-30 1788
本文详细讲解了从卷积神经网络到Transformer的深度学习发展趋势，介绍了Transformer的背景、核心算法原理以及具体代码实例和解释。同时，本文还对Transformer的未来发展趋势和挑战进行了深入分析。最后，本文总结了Transformer模型的优缺点和应用场景。希望本文能对读者有所帮助。
【面试大题】CNN 参数计算
x66ccff
07-27 1626
CNN 参数计算
CV界，卷积神经网络真的干不过Transformer了吗？
weixin_44522295的博客
04-12 1746
上述一系列的分享，相信大家也会有了自己的看法，在这里答主再重复一下自己的结论，其实也就是没有免费的午餐原理，没有一个技术或者算法可以通用地解决所有问题，当其在一个任务上表现得好的时候，通常在另一个任务也许会不尽人意。粗暴地想用谁取代谁，都不是一个合理的思想，归根结底还是要对不同技术进行分析和理解，取长补短，相得益彰，这也是一系列论文给我们证明的结论。希望大家如果觉得答主分。
深度学习面试100题（第1-10题）：经典常考点CNN
TEDDY的博客
03-14 8786
1、梯度下降算法的正确步骤是什么？ d.用随机值初始化权重和偏差 c.把输入传入网络，得到输出值 a.计算预测值和真实值之间的误差 e.对每一个产生误差的神经元，调整相应的（权重）值以减小误差 b.重复迭代，直至得到网络权重的最佳值 A.abcde B.edcba C.cbaed D.dcaeb 解析：正确答案D，考查知识点-深度学习 2、已知： - 大脑是有很多个叫做神经元的...
神经网络结构——CNN、RNN、LSTM、Transformer ！！
热门推荐
不要给自己设限，尝试更多可能（思所向 皆可往）
03-04 2万+
本文将从什么是CNN？什么是RNN？什么是LSTM？什么是Transformer？四个问题，简单介绍神经网络结构。神经网络结构通过卷积和池化操作有效地处理高维图像数据，降低计算复杂度，并提取关键特征进行识别和分类。网络结构用来提取图像的局部特征。用来大幅降低参数量级，实现数据降维。用来输出想要的结果。卷积神经网络（CNN）解决问题卷积操作提取图像特征，如边缘、纹理等，保留图像特征。池化操作大幅降低参数量级，实现数据降维，大大减少运算量，避免过拟合。工作原理。
机器学习/人工智能的笔试面试题目——CNN相关问题总结
FPGA/MATLAB学习教程/源码/项目合作开发
08-24 870
seq2seq模型是将一个序列信号，通过编码和解码生成一个新的序列信号，输入和输出序列的长度实现并不知道。seq2seq的模型的核心思想由编码输入和解码输出两个环节构成。在经典的实现中，编码器和解码器各由一个循环神经网络构成，两个循环神经网络是共同训练的。解决问题：机器翻译、语音识别、自动对话。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

钱多多先森

你的鼓励，是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值