- 博客(27)
- 资源 (3)
- 收藏
- 关注
原创 [信号与信息处理]系列概述
今天开始,笔者将开始一个全新的系列博文:信号与信息处理。在这里,我们将一起探讨信号与信息处理领域的诸多问题,既包含经典问题的回顾,也包含学术前沿的初探。信号与信息处理,事实上是许多科学与工程问题得以解决的基础。这个系列的文章,也将作为之前【机器学习】和【模式识别】两个系列文章的概化统一与扩展,在每篇文章里,笔者会尽自己所能将问题描述清楚,内容将涵盖基础数学理论、算法设计结构、示例应用演示等。
2017-04-30 16:32:25
4609
转载 10 Rules of Good and Bad Studying By Barbara Oakley
These rules form a synthesis of some of the main ideas of the course--they are excerpted from the book A Mind for Numbers: How to Excel in Math and Science (Even if You Flunked Algebra), by Barbara Oakley, Penguin, July, 2014. Feel free to copy these rules
2015-12-20 11:41:35
1030
原创 《设计心理学》读书笔记
《设计心理学》,英文原名为《The design of everyday things》,尽管书中确实提到了一些认知心理学和行为心理学中的概念,并且其作者——诺曼博士——也从事过心理学研究,但是对于书名是否应该被翻译为设计心理学,却依然是一个备受争议的话题。回归书的内容本身,作者强调的是,日常物品的设计,应以易于使用为重。一款产品设计出来,最终是要落到用户手里的,其与用户的交互过程是否顺畅,直接决定了这款产品设计的成功与否。而针对目前设计界过分崇尚外观美学的现实,书中则多次用“这项设计或许还获得过某项设计
2014-10-15 09:59:40
3199
原创 模式识别(七):MATLAB 实现朴素贝叶斯分类器
今天介绍一种简单高效的分类器——朴素贝叶斯分类器(Naive Bayes Classifier)。相信学过概率论的同学对贝叶斯这个名字应该不会感到陌生,因为在概率论中有一条重要的公式,就是以贝叶斯命名的,这就是“贝叶斯公式”
2014-09-30 11:19:59
29686
2
原创 《失控》读书笔记
一个纯粹网络化的公司,应该具有以下几个特点,分布式、去中心化、协作和可适应性。一个网络就是一个信息的加工厂。每一个产品的价值随着其中所蕴含的知识的增加而提高。在复杂的适应性系统中,你根本不可能依赖插值函数来判断系统的行为。程序编制的模块化,就是程序的“可靠化”。当你发现一个错误的时候,也就意味着另外一堆你没看见的错误在什么地方等着你。创造的理由五花八门,但我们创造的却总是一个世界。其实,每一个创造
2014-09-19 10:42:50
1795
1
原创 编程中的正交原则
今天读到了《程序员的修炼之道》关于“正交的好处”一节,突然间想起了一件事情。关于当年参加飞思比赛的故事。故事要从一次师弟的反馈说起。话说参加完这个比赛之后,最引以为豪的作品还是由我们队一路摸索建立起来的无线通信上位机调试技术(就姑且称之为技术吧),这项技术带来的好处是显而易见的,方便的查看各项运行数据为调整策略提供依据,方便的设置关键变量以尽快获取最佳运行参数,方便的检查各类传感器状态以确
2014-08-10 18:25:48
6043
转载 Is machine learning Kaggle competitions?
Today I have found two interesting posts. One is named "Machine learning isn't Kaggle Competitions", while the other is named "Machine learning isn't Kaggle Competitions". Now let's see what they say.
2014-07-04 20:19:14
1532
原创 [算法拾遗]栈和队列的实现
本文介绍两种高度相似的数据结构——栈(stack)和队列(queue)。栈和队列均支持一下两种操作:向其添加元素;从中删除元素;栈和队列的不同主要在于这两种操作的顺序不同,前者是后进先出,后者是先进先出。此外,为了调试方便,我们还允许显示其中的元素。
2014-04-11 15:51:22
1540
原创 模式识别(六):分类器集成技术之AdaBoost
关于 Adaboost 的身世已经有很多博客探讨过,这里我们不再赘述,我们直接讨论算法本身。在 Yoav Freund 和 Robert E. Schapire 的原文献《A Decision-Theoretic Generalization of On-Line Learning and an Application to Boosting》中,针对两类问题的 AdaBoost 算法描述如下:
2014-04-11 09:23:12
2268
1
原创 [机器学习]机器学习学科初探
每个学科都有自己研究的核心问题,机器学习也不例外,它主要是为了回答这样一个问题:“如何构建一个能够通过积累的经验而使自身性能得到改善的计算机系统,以及何为支配其学习过程的基本法则?”机器学习是计算机科学和统计学两个学科交叉之后的自然产物之一,同时也受到心理学、神经科学和其他相关学科中关于人类和动物的学习理论的影响。下面就机器学习领域中的一些相关问题作简要介绍。
2014-03-31 13:30:49
2193
原创 模式识别(五):K近邻分类器(KNN)
今天介绍模式识别中另外一种经典的分类器算法——K近邻分类器(K-nearest neighbor,KNN)。俗话说:“物以类聚,人以群分”。KNN就是利用了这样一种思想发展起来的分类器。首先,KNN 是一种基于距离的分类器,其次,它也是一种“懒人”分类方法(不需要训练)。KNN 认为,待分类对象的类别可以通过在它附近的训练数据的类别来确定,所以采取的策略就是找到离待分类对象最近的 K
2014-03-22 09:42:49
7633
原创 [算法拾遗]排序算法
[算法拾遗]系列文章主要用以归纳整理一些自己学过的主要算法。本篇介绍几种主要的排序算法。排序算法,顾名思义,就是用来对数组进行排序的算法,鉴于其在整个算法研究中的重要地位,很多介绍算法的书籍都是从排序算法开始,笔者也不能免俗。1. 插入排序(Insert Sort)这个算法的思路就跟我们玩扑克牌时整理手牌的方式差不多,一个数字一个数字读进来,把新读进来的数字
2014-03-17 19:30:04
1468
原创 模式识别(四):Fisher 线性分析
本节我们正式介绍第一个模式识别经典算法——Fisher 线性分析。有首古诗道:“横看成岭侧成峰,远近高低各不同。”意思是说从不同角度看待同一事物,可以得到不同的视觉体验。Fisher 的算法就利用了这样的原理。这里,从不同角度看,反过来就是说景物以不同的方向投影到人的眼睛里去。注意到这样一个事实,一个三维的物体投影到眼睛里就变成了一副二维的图像。也就是说,投影具有降维的作用。对于一个分
2014-03-10 20:30:03
5318
1
原创 模式识别(三):线性判别函数
上一节我们讲到,分类器的设计有两种思路:基于判别函数的分类器和基于距离的分类器。本节我们开始介绍基于判别函数的分类器中的线性判别函数法。判别函数法是对不同模式进行分类有很多方法中应用比较广的一种。所谓判别函数就是指直接用来对模式样本进行分类的准则函数。如果判别函数可以用线性关系进行描述的话,就称之为线性判别函数,否则称为非线性判别函数。上图给了我们一个直观的理解,第一个图中
2014-02-28 15:22:58
9775
3
原创 模式识别(二):分类问题简介
根据上一节的知识,不难看出,模式识别的核心任务是——分类。这一节我们通过一个识别动物种类的简单例子,说明一下分类的基本类别和方法。一般地,分类问题可以分为两类和多类两种,如下图所示:有人可能就要问了,为什么要把两类问题专门独立出来呢?首先,两类问题是分类问题中最简单的一种。其次,很多多类问题可以被分解为多个两类问题进行求解(请看下文分解)。所以,历史上有很多算法都是针对两类
2014-02-28 10:27:21
11454
原创 模式识别(一):概念介绍
在正式引入模式识别的概念之前,让我们先看几个模式识别应用的实例。1.iphone5s 中的指纹识别系统苹果公司于2013年发布新一代手机——iPhone5s,革命性地在其经典的Home键上加入了指纹识别系统,实现自动解锁的功能。2.讯飞语点语言识别系统继苹果 Siri 语言系统之后,科大讯飞推出了中文语音助手——讯飞语点,丰富人们与手机间的交互方式,该软件主要涉及到
2014-02-27 20:54:36
20152
原创 矩阵分析(三)内积空间
根据前面的知识,可知,在线性空间中,向量之间的基本运算只有加法和数乘向量两种运算,而向量的度量在线性空间理论中没有反映,这局限了线性空间理论的应用。在本篇中,我们将借助于内积把度量概念引入到线性空间当中。欧氏空间和酉空间内积空间时在线性空间基础上再定义多四个条件,如果针对的是实数域,这类内积空间称为欧氏空间,如果针对的是复数域,这类内积称为酉空间。其中,复数域与实数域条件稍有区别,即引入了
2013-12-23 16:23:03
9426
原创 矩阵分析(二)\lambda-矩阵和Jordan标准形
上一篇讲到矩阵对角化问题,其中一个关键步骤是利用特征方程求取特征值和特征向量,而其中特征方程中的矩阵 就是特殊的 - 矩阵,所以本篇就从 - 矩阵的基本概念说起。 - 矩阵所谓 - 矩阵,简单说来就是矩阵中的每个元素都是关于 的多项式。由此定义,易知我们之前提到的数值矩阵都是特殊 - 矩阵,所以研究 - 矩阵的性质,都可以直接应用到之前的数
2013-12-23 09:39:46
11866
原创 矩阵分析(一)线性空间和线性变换
本系列文章为作者学习过程的思路总结,希望对大家的学习有所帮助,转载请注明出处。按照笔者的理解,矩阵分析课程是线性代数课程的延伸和发展,将实数域的分析进一步扩展到到负数域。线性空间矩阵的概念,是基于线性空间发展而来的。所以首先需要了解线性空间的定义,线性空间中定义两种基本运算,这里我们称为线性运算,分别为加法运算和数乘运算,而线性空间定义中又对这两种运算各自定义了四条性质,总共就是八条性
2013-12-04 11:29:30
11972
原创 如何在 MATLAB 中计算程序运行时间
关于MATLAB的功能及其应用,这里就不做探讨了。目前,有很多研究人员利用MATLAB改进现有算法,开发快速算法。在对比不同算法性能时,就需要在程序嵌入计算程序运行时间的代码,那么,MATLAB中有哪些函数可以用来实现这些功能呢?一般来讲,有四种方法:clock 计时;etime 计时;cputime 计时;tic-toc 计时;从计时可靠性角度出发,MATLAB官方推荐使
2013-10-07 11:43:09
5474
原创 Coding the Matrix: Week 7 Orthogonalization 学习笔记
<a href="http://www.codecogs.com/eqnedit.php?latex=P(x|c)=\frac{P(c|x)\cdot P(x)}{P(x)}" target="_blank"><img src="http://latex.codecogs.com/gif.latex?P(x|c)=\frac{P(c|x)\cdot P(x)}{P(x)}" title="P(x|c)=\frac{P(c|x)\cdot P(x)}{P(x)}" /></a>
2013-08-26 17:23:41
1138
原创 Coding the Matrix: Week 6 Gaussian Elimination and the Inner Product 学习笔记
本周课程主要内容有:高斯消元法及其应用;内积定义与正交基础。在前面章节的算法练习中,我们使用 solver 模块求解线性方程的解,那么,该模块是如何实现的呢?首先介绍高斯消元法(Gaussian elimination),它的应用场合有:寻找给定向量跨度(Span)的基底。这一应用同时可以提供求秩以及判定线性相关性的算法。求解矩阵方程,等同于将一个给定向量表示为
2013-08-26 11:42:14
1938
原创 Coding the Matrix: Week 5 The Dimension 学习笔记
本周课程主要内容有:空间维度和向量集的秩;直和;矩阵可逆判据;空间的对偶表示。由变形引理(Morphing Lemma):V 为向量空间,A 为 V 的一组生成集,B 为 V 的一组基底(Basis),则有 | B | 可以得到两个重要的定理:向量空间 V 的所有基底都是它的最小生成集。向量空间 V 的所有基底具有同样的大小(Size)。基于这样的事
2013-08-20 11:08:30
2620
原创 Coding the Matrix: Week 4 The Basis 学习笔记
本周课程主要内筒:坐标系统(Coordinate System);线性相关性;基底(Basis)与基底变换;交换定理;图像的投影表示。先了解坐标系统与坐标表示(Coordinate representation)的基本概念:向量空间 V 的坐标系统用 V 的生成器a1,a2,……,an表示;向量空间 V 中的每个向量 v 都可以用线性组合的形式表示为 v = a
2013-08-15 15:52:49
1572
原创 Coding the Matrix: Week 3 The Matrix 学习笔记
本周课程介绍了矩阵(Matrix),主要有以下几点内容:矩阵向量相乘:向量矩阵相乘;矩阵函数关系;矩阵矩阵相乘;矩阵的逆。接下来详细说明一下相关内容:首先,什么是矩阵?传统定义矩阵为一个二维数组。关于矩阵的一些最基础的操作这里不展开来讲。对于矩阵与向量的乘法运算,可以分为两种:矩阵向量相乘和向量矩阵相乘,而每一种又有两种定义:线性组合和点乘。当然要进行合法运算,还需要两
2013-08-10 11:14:34
2081
原创 学习周记计划
最近在coursera上学习,之前已经完成 Andrew Ng 的 “机器学习(Machine Learning)”课程。感觉过了段时间之后有些内容就有点模糊了,可能是之前缺乏系统整理的缘故。近段时间在跟“矩阵编程:线性代数在计算机科学中的应用(Coding the Matrix: Linear Algebra through Computer Science Applic
2013-08-06 21:48:09
1314
朴素贝叶斯分类器(MATLAB源代码)
2014-09-30
PL2303-USB to RS202资料
2011-06-22
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人