3、机器学习、神经网络与数据处理基础

机器学习、神经网络与数据处理基础

1. 神经网络基础

1.1 前馈传播

前馈传播是神经网络中的一个基础概念，对于一个简单的两层神经网络，其输出计算本质上是简单的微积分运算。以下是一个Python代码示例，我们添加了前馈函数来实现这一过程，为了简化，我们假设偏置为0：

import numpy as np
def sigmoid(x):
    return 1.0/(1 + np.exp(-x))
class NeuralNetwork:
    def __init__(self, x, y):
        self.input    = x
        self.weights1 = np.random.rand(self.input.shape[1],4)
        self.weights2 = np.random.rand(4,1)
        self.y        = y
        self.output   = np.zeros(self.y.shape)
    def feedforward(self):
        self.layer1 = sigmoid(np.dot(self.input, self.weights1))
        self.output = sigmoid(np.dot(self.layer1, self.weights2))

1.2 损失函数

为了评估预测的准确性，我们需要使用损失函数。有多种损失函数可供选择，具体取决于问题的性质。这里我们使用简单的平方和误差作为损失函