文献原文:https://arxiv.org/pdf/1702.00832.pdf
文献详解参考,请看这位大神的:【文献笔记】【精读】An Introduction to Deep Learning for the Physical Layer_ndwuhuangwei的博客-优快云博客
目录
An Introduction to Deep Learning for the Physical Layer
An Introduction to Deep Learning for the Physical Layer
Tim O’Shea, Senior Member, IEEE, and Jakob Hoydis, Member, IEEE
期刊:IEEE Transactions on Cognitive Communications & Networking
一、读文献
这篇文章主要介绍了DL在通信物理层的几个应用。
1.首先是将通信系统用一个自动编码器的形式,将发射机和接收机看做为一个整体,实现端到端的传输。
2.在自动编码器的基础上,扩展到多个收发器的网络,并提出了RTNs(radio transformer networks)无线电转换网络的概念,让通信领域的专家知识纳入到机器学习中。
3.讨论了CNNs在原始IQ样本中对于调制分类的应用。与传统方案相比,没有过于依赖专家特征,并具有较高的准确性。
1.INTRODUCTION
DL or ML 在通信领域中有较高门槛。
(1)通信是一个很成熟的领域,且在很多传统研究上已经将性能提升得很高了,出现了性能提升的瓶颈。因此,机器学习应用于通信领域在性能上要通过很高的门槛,才能提供切实的新的好处。
(2)通信与CV和NLP(自然语音处理)领域的区别:这两个领域很难用严格的数学模型、传统算法实现,如图像检测手写数字。但是通信中的信道、系统模型、信号检测等都有很好的数学模型和算法可以实现。
第三段说,在难以用简单的数学模型描述的复杂通信场景中,希望可以用DL的方式去提高性能。谈到本篇文章的主要贡献。
(3)①对于一个给定信道模型,发射机和接收机的实现,通过学习他,使损失函数最优化。(eg.最小化误码率模块)其中的关键是,将发射机,信道,接收机表示为一个深度神经网络,作为一个自动编码器进行训练。甚至可以应用于最优解未知的通道模型和损失函数。
②将这种概念扩展到多对收发机竞争容量的对抗网络。这会导致干扰的产生,进而寻找一个最佳的信号方案。作者演示了一个具有多入多出的网络,所有收发机的实现都可以对于一个普遍的或者个人的性能指标进行联合优化。
③介绍了RTNs,将专家知识集成到DL 模型中。RTNs允许你在接收端执行预定义的修正算法,这些算法可以用另一个NN中学习到的参数进行反馈(复数乘法、向量卷积)。
④使用CNNs解决调制分类问题。超越了传统的方法,举了两个例子:sacle-invariant feature transform (SIFT)尺度不变特征和Bag-of-words。
1-A.讨论了DL对物理层的潜在优势
1.DL非线性
现有的通信中的信号处理算法通常是线性的、平稳的、具有高斯统计的。然而实际的系统有很多缺陷和非线性,(如非线性功率放大器PAs,有限分辨率量化)。基于DL,不需要数学可处理的模型,并可针对特定硬件配置和信道优化。
2.DL提供了End-to-End的整体方案,能够对整体性能进行优化
将通信系统分模块先进行优化,再合并,未必能够使通信系统整体性能达到最优。例如:
A. Goldsmith, “Joint source/channel coding for wireless channels,1995中介绍将信源和信道编码分离;
E. Zehavi, “8-PSK trellis codes for a Rayleigh channel,1992中,分离编码和调制;
这些对于实际信道不是最优的。
H. Wymeersch, Iterative receiver design. 2007中的基于因子图的方法,虽然计算复杂,但提供了增益。
3.DL计算效率高,能耗低
4.GPU和用于NN处理的专业化芯片Y .-H. Chen, “Eyeriss: An energy-efficient reconfigurable accelerator for deep convolutional neural net-works,”2017日益发展,NN能够实现高的硬件资源利用率。
1-B.介绍了ML in WC工作
1.谈到,以往ML在通信中应用的文献中,基本都只关注单个接收机处理任务,对于发射机的考虑,或者整个端到端系统的考虑完全缺失。
2.有两类不同方法将DL应用通信中,①利用DL改进现有算法,比如让其中迭代的部分换成NN;②用DL完全取代现有算法,如盲检测,功率控制,调制识别,信号压缩,信道解码等。
2.深度学习基础
CNN、ML工具、网络规划和训练
3.作者提出的几个DL在通信的应用
自动编码器、推广至多个收发机、RTNs、CNNs
3-A端到端自动编码通信系统
发送信号映射成 ,发送端对信号进行约束(eg.能量
,幅度
,平均功率
),n:n discrete uses of the channel??
??解决:默认信道用一次发送1个bit,因此n的英文意思是信道的使用次数,发送一组码元用了几次信道,即有多少个码元。
分组码(n,k),编码,n个码元为一组,其中信息位数为k,码率(bit/channel use),
。
信道用条件概率密度函数,其中接收信号
。接收端接收到之后用反映射变换回发送信号的估计值。
自动编码器的目标:让输入在中间层用低维去表示,重构出最小误码的输出。
用这种方式,学习 非线性压缩 和 重构输入。
自编码器示意图:输入端为被编码的one-hot向量,输出是所有可能消息的概率分布,其中最有可能的为估计值输出。
发射机由前馈神经网络组成,有多个全连接层,一个标准化层,用于对x的约束。
信道方差
接收机也前馈NN,最后一层激活函数,输出是对最高概率的索引。
使用SGD梯度下降对所有可能信息使用合适的分类交叉熵损失函数
论文及源码中提炼的训练信息???
(1) optimizer: SGD 4-B中使用Adam 信噪比7dB,学习率0.001
(2) loss_function: BLER????
(3) data_set:随机生成的待传输的blocks,也就是有效信息编码串
(4) input:二维张量 [input_dimension, input_dimension],表示input_dimens