牛客题解 | Leaky ReLU 激活函数

题目## 题目

题目链接

Leaky ReLU（Leaky Rectified Linear Unit）是一种常用的激活函数，其计算公式为：
$$f(x)=\max (0.01x,x)$$
其中，$x$是输入。
该算法是ReLU激活函数的改进，解决了ReLU在负数输入时梯度为0的问题。是深度学习中常用的激活函数之一。

标准代码如下

def leaky_relu(x,alpha):
    return np.maximum(x, alpha)

题目链接

Gauss-Seidel法是一种求解线性方程组的方法，其基本思想是通过迭代法求解。

具体步骤如下：

1. 初始化
   • 选择初始解向量$x^{(0)}$
   • 选择迭代步数$k$
2. 迭代过程
   • 对于第i个方程，使用公式：
     $x_i^{(k+1)}=\frac{1}{a_{ii}}(b_i-{\sum }_{j=1}^{i-1}{a}_{ij}{x}_j^{(k+1)}-{\sum }_{j=i+1}^n{a}_{ij}{x}_j^{(k)})$
     其中：
   • $a_{ij}$ 是矩阵A中第i行第j列的元素
   • $b_i$ 是向量b中第i个元素
   • $x_j^{(k)}$ 是第k次迭代时的解向量中第j个元素
3. 迭代终止条件
   • 当$x^{(k+1)}$与$x^{(k)}$的差值小于给定阈值时，迭代终止
   • 本题中使用迭代次数代替阈值成为终止条件

标准代码如下

def gauss_seidel_it(A, b, x):
    rows, cols = A.shape
    for i in range(rows):
        x_new = b[i]
        for j in range(cols):
            if i != j:
                x_new -= A[i, j] * x[j]
        x[i] = x_new / A[i, i]
    return x

def gauss_seidel(A, b, n, x_ini=None):
    x = x_ini or np.zeros_like(b)
    for _ in range(n):
        x = gauss_seidel_it(A, b, x)
    return x