前文已对Logistic回归模型进行过讲解;http://blog.youkuaiyun.com/zSean/article/details/77880463,Softmax 回归模型是logistic回归模型在多分类问题上的推广,
在多分类问题中,类标签y可以取两个以上的值;
1.在Logistic回归中,给定训练数据集:T={(x1,y1),(x2,y2),....(xN,yN)}, xi为实数,yi为0,1;
假设某一类的概率函数为:
w为训练模型的参数,选择一个模型参数,是损失函数最小化:
2.而在Softmax中,解决的问题是多分类问题,类标签y可以取多个不同的值k;
给定训练数据集:T={(x1,y1),(x2,y2),....(xN,yN)}, xi为实数,yi为{1,2,...k};
对于给定的测试数据输入x, 估计每一个测试数据x的每一种分类结果出现的概率。由于y的分类个数有k个,