＜文献阅读＞用转移熵通过微阵列的时间序列推断基因调控网络(inferring gene regulatory networks from microarray time series data

这篇文章是2007的时候发表在IEEE杂志上，并没有收录到PubMed里面。是韩国的学者开发出来的方法。具体来说，通过转移熵计算基因对的因果关系(causal relations), 也就是转移熵的值。转移熵不是负数，而且大小代表因果关系的强度。
##题目：Inferring gene regulatory networks from microarray time series data using transfer entropy
##引入
衡量两个变量的关系可以用相关系数、互相关、互信息。但是这些是对静态数据分析的。忽略了时间序列的动态属性。
##方法：
首先，通过转移熵量化基因对的因果关系
其次，估计每一个因果关系的显著水平，并预先设置一个阈值
最后，识别和移除被视为间接的因果关系（indirect causal relations）
具体来说，本文所开发的方法主要是对连续型基因表达数据，要先进行离散化处理。将基因的表达值从高到低排列，将这些表达值分配三个格子（bins），每个格子分配一个状态。转移概率直接由发生概率所估计。文章并未说明实际操作的时候状态的值。
评估转移熵transfer entropy TE为有效的因果关系。
##转移熵
假设时序数据是符合稳定的k阶马尔可夫过程。

条件熵定义为以前的状态已知下，额外要增加一个状态所需要的信息量。而p(xi+1|xi(k))为转移概率

转移熵公式如上所示。通常来说，l=k或者l=1。马尔可夫阶数也选择了1，在本文中由于数据量的原因。

真实的转移概率p(xi+1|xi(k)) 通常是未知的，所以假定先验转移概率q(xi+1|xi(k))。那么kullback entropy 就是如上所示的公式，定义为使用先验概率分布q(xi+1|xi(k))代替p(xi+1|xi(k))时所需的多余的熵。
利用蒙特卡罗方法。评价TE（Y→X）先打乱时间序列X的顺序，以消除掉时间属性。对所有的打乱时间的X序列计算转移熵。假设这些转移熵服从正态分布，那么可以用z-test估计转移熵的显著水平。
识别间接因果关系
用一个启发式的规则，假设T(X→Y)、T(X→Z)、T(Y→Z) 都是符合显著水平要求的。那么指示了X→Y, X→Z, Y→Z三对因果关系。这三者间可能是如下图所示的关系
可以利用转移熵的大小来移除一些间接的因果关系。

##模拟数据
之后作者又利用14个基因包含14个因果关系，如上图所示，由线性的也有非线性的。作者通过这些图上的等式重构了基因关系网络如下图

为了评价方法的水平，定义了敏感度（sensitivity）和准确度（precision）从74个样本大小到2000个样本。灵敏度定义为重构网络中真阳性边占合成网络中所有边数的百分比。准确度是真阳性的边占所有预测边的百分比。在给定样本大小的情况下，迭代产生时间序列重构网络100次，估计平均的敏感度和准确度。结果如下图

如图所示，在超过800个样本中，所有的因果关系都以将近90%的精度被确定。对重构网络的分析表明，少量的间接因果关系边不能被我们的简单规则删除。在仅使用74个样本的情况下，这个方法可以识别30%的真的边缘数量和80%的精度，是一个非常可靠的结果。
##在生物学数据上应用
作者使用了Whitefield>发现了一组周期性表达的基因，并提供了一个全面的细胞周期调控基因目录，可以作为功能发现的起点,人类细胞周期微阵列时间序列数据。全部的数据包含五个不同的实验，作者选择了第二和第三个包含了74个时间点。

如上图所示，16个基因21个调控关系被识别出来。实线表示是被文献所证明的调控关系。
##结论
作者提到转移熵作为一种无模型的方法，优点在于既可以检测线性关系，还可以检测非线性关系。将它应用于全基因组范围内的分析是很有前景的。

Whitfield ML et al. Identification of genes periodically expressed in the human cell cycle and their expression
in tumors. Mol Biol Cell. 2002;13:1977–2000
Schreiber T. Measuring information transfer. Physical review letters. 2000; 461:464-85