天马行空的理解与思考方式:分数阶傅里叶变换与信息熵怎么用于信号处理?
快速学习,快速尝试,快速失败
已关注
35 人赞同了该文章
这篇文章希望能写的有趣,同时有质量,学习就是要多维度多角度!
信息熵怎么用于各类信号处理?(信号特征提取?信号识别与分类?)
一.什么是信息熵?
热力学中的热熵是表示分子状态混乱程度的物理量,而信息熵的概念是用来描述信源的不确定度的;信息论之父香农曾在论文中提出“任何信息都存在冗余,冗余大小与信息中每个符号(数字、字母或单词)的出现概率或者说不确定性有关。”香农借助热力学概念,把信息中排除了冗余后的平均信息量称为“信息熵”。
通常,一个信源发送出什么符号是不确定的,衡量它可以根据其出现的概率来度量。出现的概率大,则不确定性小,所提供的信息量就少;反之不确定性就大。
根据以上定义和描述,可以得到不确定性函数应具有的两个条件