机器学习笔记-正则化线型回归与逻辑回归

最新推荐文章于 2022-07-27 20:40:17 发布

勤劳的约德尔人

最新推荐文章于 2022-07-27 20:40:17 发布

阅读量280

点赞数 2

CC 4.0 BY-SA版权

分类专栏：机器学习笔记文章标签：机器学习线性回归逻辑回归

本文链接：https://blog.youkuaiyun.com/qq_42626762/article/details/90694104

机器学习笔记专栏收录该内容

4 篇文章

订阅专栏

该博客记录了机器学习相关内容，包含损失函数与正规方程的代码表示，逻辑回归损失函数的代码表示，还涉及正则化线性回归和正则化逻辑回归。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

机器学习笔记-损失函数与正规方程的代码表示

机器学习笔记-逻辑回归(Logistic Regression)损失函数代码表示

# 正则化模型
import numpy as np

def sigmoid(z):
    return 1 / (1 + np.exp(-z))

正则化线型回归

# 正则化线性回归
def linearcostReg(theta, X, y, learningRate):
    theta = np.matrix(theta)
    X = np.matrix(X)
    y = np.matrix(y)
    first = np.log(sigmoid(X*theta.T))
    second = y
    reg = learningRate * np.power(theta[:, 1, theta.shape[0]], 2)
    return np.sum(np.power((first - second), 2), reg) / (2 * len(X))

正则化逻辑回归

# 正则化逻辑回归模型
def costReg(theta, X, y, learningRate):
    theta = np.matrix(theta)
    X = np.matrix(X)
    y = np.matrix(y)
    first = np.multiply(-y, np.log(sigmoid(X * theta.T)))
    second = np.multiply((1 - y), np.log(1-sigmoid(X * theta.T)))
    reg = (learningRate/(2 * len(X)) * np.sum(np.power(theta[:, 1, theta.shape[1]], 2)))
    return np.sum(first - second) / (len(X)) + reg