语义通信资源文献阅读：Deep Learning based Semantic Communications: An Initial Investigation

---

论文简介

• 作者
  Huiqiang Xie
  Zhijin Qin
  Geoffrey Ye Liy
  Biing-Hwang Juangy

• 发表期刊or会议
  《GLOBECOM》

• 发表时间
  2020.12

  ---

动机：为什么作者想要解决这个问题？

随着新应用的发展，需要开发新的通信系统以提高通信的准确性和效率，作者通过考虑bit背后的语义来开发智能通信系统

文中对语义通信系统的解释：
  所考虑的语义通信系统主要关注语义层面的信源编码和信道编码，其目的是提取数字比特背后的语义信息，而不是简单地压缩比特序列的长度，然后对语义信息进行编码，以确保接收者可以在失真后恢复原始语义信息
(即使提取出来bit背后的语义信息，还是要对语义信息编码，这不还是在传输bit吗，一定意义上确实不是简单的压缩了，是复杂的压缩，hhhh……)

---

贡献：作者在这篇论文中完成了什么工作(创新点)？

• 基于 Transformer提出了一种新颖的 DeepSC 框架，可以有效地从文本中提取语义信息。在该框架中，设计了联合语义-信道编码来应对信道噪声和语义失真
• DeepSC的收发器由语义编码器、信道编码器、信道解码器和语义解码器组成。为了理解语义并同时最大化系统容量，接收器使用两个损失函数进行优化：交叉熵和互信息

说白了，就是设计一个网络，再设计损失函数的套路；换个网络岂不是又是创新了

---

规划：他们如何完成工作？

• 整体框架

  
  所考虑的系统模型由两个层次组成：语义层和传输层。语义层解决语义信息处理的编码和解码以提取语义信息；传输层保证语义信息能够在传输介质上正确交换。
  (语义层，虚线框里；传输层，虚线框外；这个semantic channel是抽象出来的概念吧)
  
  重要知识点：
    对于编码器和解码器的端到端训练，信道必须允许反向传播。物理信道可以通过神经网络来建模。例如，简单的神经网络可用于对加性高斯白噪声 (AWGN) 信道、乘性高斯噪声信道和擦除信道进行建模。而对于衰落通道，则需要更复杂的神经网络。在本文中，为了简单起见，我们主要考虑 AWGN 信道。

• 神经网络框架

  本文的框架有两个技术需要关注：
  

  • 使用 DNN 联合设计发射器和接收器
    通过在DL中采用自动编码器结构，将E2E系统中的发送器和接收器作为E2E重建任务进行联合优化
  • 语义-信道联合编码
    为了实现语义级别的成功恢复，我们联合设计了语义和信道编码，以保持$\hat{s}$和$s$之间的含义不变，这是通过新的 DNN 框架实现的
    (语义-信道联合编码的意义就是为了保持$\hat{s}$和$s$之间的含义不变)
    [个人理解，这两项技术是通过设计不同的loss函数实现的]
  <