墨衍会员
·
AI 创作全网分发
墨衍智能分发
本文由作者通过墨衍一键同步至各平台
1分发平台
700+累计阅读
732平均单平台
已同步平台
优快云
微信公众号
微博
知乎
掘金
百家号
博客园
抖音
小红书
你的文章也可以这样分发
墨衍会员 ¥399起/年，写一次发全网
我也要
极大似然估计
极大似然估计步骤
极大似然估计示例
示例引入逻辑回归
逻辑回归的由来
logistic函数(sigmoid函数)
sigmoid函数求导
Sigmoid函数性质
极大似然估计参数
回顾梯度下降法
梯度上升法
批处理梯度上升法
随机梯度上升法
批处理梯度上升法
随机梯度上升法
随机梯度上升法结果分析
改进的随机梯度上升法
改进的随机梯度上升法迭代多次效果
三种优化算法的结果对比
使用逻辑回归和K-最近邻算法在Python中实现音乐流派的自动分类：从理论到实践的深入探讨
在本文中，我们将重点介绍如何使用逻辑回归和K-最近邻（KNN）算法在Python环境中实现音乐流派的自动分类。但是，为了获得更好的性能，还需要进行更多的研究和实验。它的工作原理是：当我们有一个新的音乐样本需要分类时，算法会在训练数据中找到与该样本最相似的K个样本，然后根据这K个样本的流派来决定新样本的流派。以上就是关于使用逻辑回归和K-最近邻算法在Python中实现音乐流派的自动分类的全文。此外，还可以考虑使用其他的特征提取方法、尝试其他的机器学习算法、或者使用集成学习方法来进一步提高模型的性能。
逻辑回归的极大似然估计
参考博客：https://blog.youkuaiyun.com/yinyu19950811/article/details/81321944，感谢作者的分享 1、什么是逻辑回归？ 逻辑回归是一种分类算法，不是回归算法。它利用了回归的思想来解决分类问题。 总结：逻辑回归假设数据服从伯努利分布，通过极大似然函数的方法，运用梯度下降来求解参数，最终达到数据二分类的目的。 假设有一个二分类的问题，输出结果为...
最全面讲解的 逻辑回归算法
这是搜狗做资深的机器学习工程师2014年自己写的逻辑回归，认识很到位，算法很清晰，实际运用讲解的很棒
【机器学习】逻辑回归原理（极大似然估计，逻辑函数Sigmod函数模型详解！！！）
逻辑回归（Logistic Regression）是机器学习中的一种分类模型，逻辑回归是一种分类算法，虽然名字中带有回归。由于算法的简单和高效，在实际中应用非常广泛。
【技术解析】AlexNet——从ReLU到Dropout的深度学习关键突破
本文深入解析AlexNet在深度学习领域的关键突破，重点探讨了ReLU激活函数和Dropout技术的革命性应用。作为卷积神经网络的里程碑，AlexNet通过ReLU解决梯度消失问题，利用Dropout有效防止过拟合，为现代深度学习模型奠定了重要基础。这些创新技术至今仍在计算机视觉和自然语言处理等领域发挥重要作用。
Pascal Context数据集实战：从安装到格式转换的完整指南
本文提供了Pascal Context数据集的完整实战指南，从安装配置到格式转换的详细步骤。Pascal Context是计算机视觉领域重要的语义分割数据集，包含540个精细标注类别。文章涵盖数据集下载、环境配置、预处理技巧和常见问题解决方案，帮助开发者高效利用这一数据集进行场景理解任务。
逻辑回归—极大似然估计的理解
极大似然估计是一种参数估计的方法。已知某个事件已经发生，求导致该事情发生的概率最大的原因。 核心思想：找到参数 θ 的一个估计值，使得当前样本出现的可能性最大。 即联合概率最大，需要写出联合概率密度函数，即似然函数，求似然函数最大时参数的值 相当于求y最大时，x的值(凸函数，导数为0时，极值就是最值) 逻辑回归采用极大似然函数做为损失函数的原因： 一是梯度(偏导数)只与x,y相关,与si...
5分钟搞定CST周期性结构仿真：共面波导色散曲线快速生成技巧
本文提供了一套在CST Studio Suite中快速仿真周期性结构并生成色散曲线的标准化流程。针对共面波导设计，重点解析了周期性边界条件的核心设置、本征模求解器（JDM算法）的优化技巧，以及通过参数扫描与后处理模板实现自动化，旨在帮助射频与微波工程师在5分钟内高效完成关键性能验证。
逻辑回归(logistic regression)的本质——极大似然估计
逻辑回归是分类当中极为常用的手段，因此，掌握其内在原理是非常必要的。我会争取在本文中尽可能简明地展现逻辑回归(logistic regression)的整个推导过程。
反激开关电源变压器设计实战：从理论到绕制的完整流程解析
本文详细解析了反激开关电源变压器的完整设计流程，从核心理论到实战绕制。文章以24W电源为例，手把手讲解如何根据输入输出电压、功率和频率等关键参数，计算匝比、峰值电流、电感量，并完成磁芯选择、匝数确定、气隙计算及线径选取。重点阐述了CCM模式下的设计要点与绕制工艺，旨在帮助工程师设计出稳定高效的反激变压器，避免常见陷阱。
Megatron单机多卡Qwen2.5:pre-train+sft
英伟达：https://github.com/NVIDIA/Megatron-LM/releases/tag/core_r0.8.0阿里：https://github.com/alibaba/Pai-Megatron-Patch/releases/tag/v0.10.2。
逻辑回归 - 理论篇
此文章为初学机器学习时，对Andrew NG《机器学习》课程整理所写，也参考了其他优快云同学的笔记，写的较为粗糙，很多网友帮助我指正了问题，现在重新更新向量化部分，并加入实践篇。 什么是逻辑回归？ Logistic回归与多重线性回归实际上有很多相同之处，最大的区别就在于它们的因变量不同，其他的基本都差不多。正是因为如此，这两种回归可以归于同一个家族，即广义线性模型（generalizedli...
【一 扣子客户案例合集】【 1.1 抖音电商：通过扣子智能体重塑电商服务新体验】
**摘要：**抖音电商借助扣子（Coze）智能体平台重塑客服体验，通过无代码开发、多模态交互和跨平台发布等功能，解决了传统客服高峰期压力大、成本高及响应机械等痛点。智能体采用直接面客与人工监管结合模式，实现高效精准服务，并通过解构流程、模块化设计优化系统架构。其技术优势包括零配置学习、意图识别、情绪感知等，实际应用中显著提升客服效率300%以上，改善用户体验。未来将进一步拓展至商品推荐、直播互动等场景，推动电商服务智能化升级。
深入理解逻辑回归算法理论与实战
引言在机器学习中，逻辑回归（Logistic Regression）是一种常用的分类算法，尤其适用于二分类问题。尽管名字中有“回归”二字，逻辑回归的主要目的是进行分类，而不是回归。逻辑回归通过使用线性模型来预测某个事件发生的概率，例如预测一封邮件是否是垃圾邮件、客户是否会购买产品等。本文将深入探讨逻辑回归的理论基础、数学公式、参数含义，以及如何使用梯度下降算法来实现这一模型。1. 逻辑回归的理论基...
全面解析量化价值投资多因子模型的原理
明明知道“买便宜的好公司”是价值投资的核心，但面对3000+只A股，如何快速筛选出“便宜又好”的标的？主观判断总被情绪干扰——明明PE很低的股票，买了却不涨；或者因为“感觉”错过牛股？想规模化投资，但手动分析100只股票就要花一周，根本无法覆盖全市场？量化价值投资的多因子模型，正是解决这些问题的钥匙。它将价值投资的核心逻辑（“便宜”“好公司”）转化为可量化的因子，用数学模型替代主观判断，实现系统化筛选、可回测验证、规模化复制的投资决策。为什么多因子模型能有效预测股票收益？
C#串口通信从入门到精通（1）——硬件接线
RS-232接口一般都是9针的，有公母头（针头和孔头），为了便有理解以下都称为针头和孔头，针头就是露出来的针，孔头就是9个孔，总共使用3条线进行通信，一条用于发送，一条用于接收，另外一根是GND地线，由于线路的功能是永久性的，设置连接时，必须确保一个节点的发送线与另一个节点的接收线相连，反之亦然，RxD（PC的接收线）连接到TxD（传感器电子设备的发送线），TxD（PC的发送线）连接到RxD（传感器电子设备的发送线）。两条线路的电平都是相对于GND的。因此，GND也必须连接，但不能将GND与屏蔽连接。
逻辑回归算法理论
逻辑回归理论 机器学习最常用的两种场景无非是分类、回归，其中： 分类：预测连续的、具体的数值。比如：支付宝里的芝麻信用分数评估，房价预测等。 回归：对各种事物分门别类，用于离散型预测。比如：图片分类，癌症类型诊断等。 当然机器学习除了分类、回归以外，还可用于聚类、降维等。 首先要明白的是逻辑回归是一个分类算法，不要被名字迷惑了，可用于二分类，多分类等。 下面来讲讲逻辑回归的理论知识： 对于分类问题，简单来讲，就是预测概率，对于二分类问题，我们通常用y=0或者y=1来表示样本标签，我们预测该样本标签y=0y=
efm32 入门.pdf
本PDF共计22页，介绍的是操作驱动API，下载与否自己斟酌。
逻辑回归算法梳理（从理论到示例）
逻辑回归算法的原理
NTscan扫描工具
ntscan是一个扫描器，可以扫描没有密码和弱密码的共享，先到配置文件中填写猜测的用户名和密码，扫描过程中右侧出现的是扫描日志。
深度学习工具包 DeepLearningToolbox
深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[](https://bitdeli.com/free "Bitdeli Badge")
人工智能-python-机器学习-逻辑回归与K-Means算法：理论与应用
逻辑回归是一种用于分类问题的回归模型，特别适用于二分类问题（例如：是否通过考试，是否贷款批准等）。尽管其名称中包含“回归”二字，逻辑回归其实是一种分类模型，采用Sigmoid函数将输入映射到0到1之间，从而预测样本属于某个类别的概率。K-Means算法是一种常见的无监督学习聚类算法，旨在将数据集分成K个簇，使得簇内的样本相似度最大，而簇间的样本差异度最小。K-Means广泛应用于聚类分析中，尤其是在无标签数据的情况下。逻辑回归和K-Means算法分别是经典的监督学习和无监督学习方法。
Probability and Statistics - 4th edition
Probability and Statistics - 4th edition
逻辑回归算法理论与应用
逻辑回归算法理论与应用
分类算法 之 逻辑回归--理论+案例+代码
分类算法 之 逻辑回归–理论+案例+代码标签
逻辑回归算法：理论学习Tesk01
逻辑回归算法：理论学习（1天） 打卡 逻辑回归：分类模型。模型简单且模型的可解释性强 1、优劣势: 优点：实现简单，易于理解和实现；计算代价不高，速度很快，存储资源低； 缺点：容易欠拟合，分类精度可能不高 2、应用 机器学习，分类算法 3、应用数据集进行逻辑回归分类步骤 （1）导入库函数 （2）读取数据 （3）二分类上训练及预测 （4）三分类上训练及预测 读demo程序 1、import…as…:导入函数库 2、逻辑回归模型：LogisticRegression() 3、使用fit拟合构造 4、coef_为
十大经典机器学习算法之逻辑回归算法：算法理论知识学习
逻辑回归算法 最近参加一个阿里巴巴举办的机器学习训练营，正好在此记录下自己的学习笔记。 提到逻辑回归算法，不知道你是不是把它当做了一个回归算法，我是第一印象把它当做了回归算法，而且我觉得这个不就是线性回归吗？怎么会是一个分类算法呢？ 后来查阅资料，翻看逻辑回归算法的数学表达式，才发现是我错了。其实我之前也了解过 Logistic 算法，不过当时都是叫逻辑斯蒂回归算法。一时有点懵逼。今天刚好借此机会记录下，以后自己也好回过头来复习。 这个算法其实挺简单的，主要的的就是一个数学公式： p=p(y=1∣x,θ)=
CTR 预测理论（十四）：逻辑回归算法总结
逻辑回归是面试当中非常喜欢问到的一个机器学习算法，因为表面上看逻辑回归形式上很简单，很好掌握，但是一问起来就容易懵逼。所以在面试的时候给大家的第一个建议不要说自己精通逻辑回归，非常容易被问倒，从而减分。下面个人总结梳理下面试知识点。
理论--逻辑回归算法笔记
以下内容笔记出自‘跟着迪哥学python数据分析与机器学习实战’，外加个人整理添加，仅供个人复习使用。 导入 逻辑回归就是将线性回归得到的值，通过Sigmoid函数转换为概率值。 那么逻辑回归如何求解呢？在线性回归中，我们是已知误差项服从正态分布，可知误差项趋于0时，概率值趋于1，我们找使得误差项最小的参数，也就是找使得概率值最大的参数（注意线性回归里面，这个概率正好是x与theta确定的y取值概率），通过极大似然估计，写出使得目标概率最大的目标函数方程式，进而推导。 这里逻辑回归也同样，只是这里有x与
入门机器学习算法交易：逻辑回归的理论和交易
目前股市的量化交易已经成为了人工智能研究的一个热门领域，很多计算机人员都想利用自己的编程技术去量化交易，也有很多的金融人员想要学习编程技术。如果你想知道一些方法论上面的知识，可以查看我上一个文章。 本次 Chat，文章会一步一步向你介如何用最简单的逻辑回归在股票数据上面构建一个自己的算法策略。如果你也想利用机器学习从事量化交易，那么本场 Chat 将会为你介绍一些知识。 本场 Chat 你将学到如...
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
526
扫一扫
