python_bigniu的博客

模型概述神经网络中最基本的成分是神经元(neuron)模型,即上述定义中的“简单单元”.在生物神经网络中,每个神经元与其他神经元相连,当它“兴奋”时，就会向相连的神经元发送化学物质,从而改变这些神经元内的电位;如果某神经元的电位超过了一个“阈值”(threshold)，那么它就会被激活，即“兴奋”起来,向其他神经元发送化学物质.最经典的神经元神经元模型是MP神经元模型在这个模型中,神经元接收到来自n个其他神经元传递过来的输入信号,这些输入信号通过带权重的连接(connection)进行传递,神经元接

对于线性回归模型，我们定义的代价函数是所有模型误差的平方和。理论上来说，我们也可以对逻辑回归模型沿用这个定义，但是问题在于，当我们将f(x)=11+e−zf(x) = \frac{1}{{1 + {e^{ - z}}}}f(x)=1+e−z1​带入到这样定义了的代价函数中时，我们得到的代价函数将是一个非凸函数（non-convexfunction）。这意味着我们的代价函数有许多局部最小值，这将影响梯度下降算法寻找全局最小值。线性回归的代价函数为：J(θ)=1m∑i=1m12(f(x(i))−y(i))

在分类问题中，预测的变量yyy是离散的值，考虑二分类任务输出标记y∈{0,1}y \in \{ 0,1\}y∈{0,1},而线性回归模型产生的预测值z=wTx+bz = {w^T}x + bz=wTx+b是实数，我们需要将实数值zzz转换为0/1值。最理想的是单位阶跃函数(unit-step function)y={0,z<0;0.5,z=0;1,z>0;y =\begin{cases} {0,} & {z < 0;} \\ {0.5,} & {z = 0

线性回归给定数据集D={(x1,y1),(x2,y2),⋯ ,(xm,ym)}D = \{ ({x_1},{y_1}),({x_2},{y_2}), \cdots ,({x_m},{y_m})\}D={(x1​,y1​),(x2​,y2​),⋯,(xm​,ym​)}，其中xi=(xi1;xi2;⋯ ;xid)x_i=(x_{i1};x_{i2};\cdots;x_{id})xi​=(xi1​;xi2​;⋯;xid​),yi∈R.y_i\in R.yi​∈R.线性回归试(linear regression)

机器学习定义机器学习教父Tom Mitchell：一个程序被认为能从经验E中学习，解决任务T，达到性能度量值P，当且仅当，有了经验E后，经过P评判，程序在处理T时的性能有所提升。机器学习概述机器学习的核心思想是创造一种算法，它能从数据中挖掘出有规律的东西，而不需要针对某个问题去写代码。你需要做的只是把数据“投喂”给这个算法，然后它会在数据上建立自己的逻辑。最基本的机器学习算法是解决分类和回归两大类问题。机器学习发展历程机器学习分类按机器学习算法学习方式可划分为监督学习、非监督学习、半监督学习