xyqzki的专栏

Given (x1,y1),(x2,y2),....,(xn,yn); Discriminative 就是model p(y|x), 给定每个x，其对应y的分布 Generative 就是model p(x,y) = p(y)p(x|y),  如果y为class的话，就相当于 我们是model （x,y）的产生过程，先根据P(y)选择一个class，再从这个class的分布p（x|y）

General的regression，我们看做，given x1 vector, x2 vector,..., xn vector, 来求fit 这个data sample 最合适的function or 分布， 首先可以用polynomial的分布，可能这个分布无论如何tuning 参数weight，也不能很好的fit these data， 然后可以考虑使用其他的分布形式，但是最

ref:http://www.psych.utah.edu/gordon/Classes/Psy4905Docs/PsychHistory/Cards/Logic.html Logical arguments are usually classified as either 'deductive' or 'inductive'. Deduction: In the process of ded

this is a discriminative model,  model p(y|x_n+1), i.e we don't care about the prior on our predictive independent variable x_n+1, 认为它没有prior knowledge. depending on the norm, find the k nearest