Lyn_S的博客

三维重建

本文对MIT RF challenge 做一个介绍，官方网址在 https://rfchallenge.mit.edu/. Challenge总共有三个，本文着重于第一个 single channel challenge. 官方提供了一份starter code，因此我们从这里着手: https://github.com/RFChallenge/rfchallenge_singlechannel_starter.准备所有RF采集的数据都将用SigMF的格式存储pip install git+http

本文我们读一下 1-bit massive MIMO transmission: embracing interference with symbol-level precodingMassive MIMO的问题作者首先从Massive MIMO的问题入手。Massive MIMO的主要增益在于BS可以利用spatial multiplexing同时同频发送多个数据流。同时 channel hardening effect 进一步简化了信道估计和功率分配问题。当然，这一切的前提是我们能实现完美的ful

本文我们读一下 D2D coded caching 一篇比较早的paper: Fundamental Limits of Caching in Wireless D2D Networks.Abstract首先这是一个D2D网络，只有用户没有基站，所有人的通信都是one-hop。每个用户都可以提前cache一些信息，取决于他们的本地容量。他们的需求可以是一个有限信息集中的任意信息。实际上这个问题在有基站的中心化场景下已经被研究过了。在他们的场景下，有一个全知的基站拥有所有的信息。由这个基站给所有用户广播

本文中我们介绍一些经典的SK scheme. 本文内容基于paper: A Coding Scheme for Additive Noise Channels with Feedback-Part I: No Bandwidth Constraint, by J. SCHALKWIJK & T. KAILATH.The Robbins-Monro Procedure首先我们介绍一下 Robbins-Monro Procedure. 要解决的问题是找一个未知函数 F(x)F(x)F(x) 的零点

On the convergence of FedAvg on non-iid data

The Effects of Adding Noise During Backpropagation Training on a Generalization Performance

总结自Wang Shusen youtube教程 https://www.youtube.com/watch?v=KN-XMQFTD0oMARL 四种设定:Fully cooperative。 多个机器人协同装配汽车；一个机械手臂举箱子另一个伸手拿。这些例子中agent都是合作关系。即使action不同，他们的利益都是一样的，最终收到的reward也是一样的。总结起来就是说他们需要为同一目的相互配合。Fully competitive。一方的收益是另一方的损失。一种就是零和博弈，双方的reward

本文同样来自stanford 组，不过他研究的是分布式学习中的weight compression and estimation problem.问题建模分布式统计参数估计首先，我们考虑 NN 有 ddd 个参数, 他们服从分布 pθp_\thetapθ​. 总共有 nnn 个节点观测 pθp_\thetapθ​ 每个节点得到一个 realization XnX_nXn​。 因此我们有X1,X2,...,Xn∼i.i.d.pθX_1,X_2,...,X_n\overset{\text{i.i.d.}

本文是作者上一篇文章的延续，原文标题Neural Network Compression for Noisy Storage Devices背景在上一篇文章中，作者研究了先压缩再coding的方法来提升NN的存储效率并对抗噪声。本文中，作者exploit联合压缩和coding算法。作者考虑一个多输入单输出的神经网络，训练数据从 pdata(x,y)p_\text{data}(x,y)pdata​(x,y) 中采样得到。注意这里分布unknown只知道data，而我们训练神经网络的目的就是学习到这个联

本文来自 stanford 组，原文标题Noisy Neural Network Compression for Analog Storage DevicesIntroduction背景本文的背景是用模拟器件存储NN weights capacity更大但同时更noisy。一般情况下，这个 noise 是写入 cell 的值的 non-linear function；输入的范围 limited 有最大值最小值限制，也就是说我们得scale input.Motivation本文的motiv

原文来自ARM:NOISY MACHINES: UNDERSTANDING NOISY NEURAL NETWORKS AND ENHANCING ROBUSTNESS TO ANALOG HARDWARE ERRORS USING DISTILLATION本文主要分析对于一个NN，当well trained weights 被 noise 污染之后：会对原NN的表达能力有什么影响；怎么训练NN使得它能抵抗noise.背景现在的神经网络变得越来越大，所以说对于mobile NN来说，大的NN

ystem model如上图所示，本文考虑 Gaussian TWRN.[Signal Flow]假设 Node i={1,2}i=\{1,2\}i={1,2} 的 rate 是 RiR_iRi​ (bits/channel use), 那么使用了 nnn 次信道之后，他总共可以传 nRinR_inRi​ 个 bits. 那他的codebook的大小就可以为 2nRi2^{nR_i}2nRi​. 我们把 Node iii 使用 nnn 次信道想传输的 message 记作Wi∈{1,2,3,..

让我们来研究一下 The Factor Graph Approach to Model-Based Signal Processing 这篇文章。本文主要是以图模型来解信号处理问题，建议所有做信号处理的同学们都仔细研究一下，这是一项很有用的工具。Forney-style factor graph原始的因子图中有两种节点: variable node and factor node. 而Forney-style factor graph 中有 nodes, edges and half-edges (仅连

Paper Reading:A Whittle Index Approach to Minimizing Functions of Ago of Information

Customizing Clos network-on-chip for neural networks – paper reading【motivation】神经网络可以在软件(GPU)或者定制的硬件上实现。 特别的，硬件实现对于NN的发展很关键，因为它能支持快速实时的信号处理。本文主要探讨如何在硬件上实现NN (fully-connected feedforward NN)。NN的计算模...