吴恩达机器学习作业Python实现之logistic回归-理论推导

Logistic regression:

1)预测函数：逻辑函数或者sigmoid函数

2）代价函数cost function

优化目标是选取Θ是J最小。

 

 但是逻辑回归的J函数是非凸函数，不好求导。

3）引入概率模型：

 4）概率模型的最大似然估计：

选取θ使P（所有样本）最大。

 

 

5）统一J 和P：

 

向量化公式：