weixin_39328611的博客

自然图像在统计学上 与视觉系统相适应的相似的统计结构 自然图像如何分布？ 不是随机，不是uniform，是highly non-uniform(redundancy很高) 自然图像的大部分统计模型基于计算特征，利用图像的redundancy 图像建模： 用线性权重加和 ...

Neural code binay active/inactive units 产生或者不产生output spikes individual spike（sequence of times） frequency coding（low number->low frequency） spike pattern, timing(spike inter时间段，relative timing 很小，可省略) 建立binay 神经码， 看每行或者每列有多少1 每一列的1有多少个->breath of

图论 帮助定义和可视化不同成分之间的关系：vertex/node，edges 1 图G=（V,E）edge（u，v）是各顶点之间的链接 两点至neighbors 如果两点之间由edge链接 degree of v等于连接到v点的edges的个数 2 path是一系列由edge连起来的点 path length 是一个path所含的edge数 3 cycle 起始和结束点是同一点 4 connectivity 两点连接 if他们之间存在path 如果某图中所有点都连接了，称连接图 连接成分：一组（子集）是

Introduction 针对信息在神经网络（人工和自然）的表示方式和学习方式 不仅仅关注输出，更作用于广泛tasks 关注生成原来和形成表示的基础 关注无监督和自监督学习 重要性 监督学习的有标签数据少 强化学习的reward/publishment 少 无监督学习中，representations应该反映环境的结构，大量的observation（无标签数据）。 学习类型 | Table | 有老师 | 没老师 | | 主动的 | 强化学习 |内部motivation