
机器学习
文章平均质量分 54
代码随想随记
211本硕,人工智能方向,前A应用算法专家,发明专利十余项,目前致力于大模型和RAG方向。
懂点工程,会点算法,
如有机器学习/深度学习/大模型/RAG等方向朋友可以一起探讨。
展开
-
【图机器学习系列】(一)图机器学习简介
图机器学习系列原创 2024-08-12 11:27:32 · 841 阅读 · 0 评论 -
通过 pip/conda 自动导出虚拟环境
导出与创建虚拟环境原创 2024-01-09 14:56:43 · 757 阅读 · 0 评论 -
Mac M1安装paddlepaddle报错,报错信息,zsh: illegal hardware instruction python
paddle安装原创 2023-03-06 17:39:13 · 1866 阅读 · 1 评论 -
浙江大学机器学习第二章人工神经网络
人工神经网络人工神经网络发展史模型理解MP模型模型结构模型数学理解hopfield神经网络脉冲神经网络感知器算法训练样本向量化表达向量化的感知器算法感知器算法的收敛定理感知器的收敛定理证明人工神经网络发展史模型理解最简单是从MP模型开始,模型理解MP模型模型结构mp模型是指有一串输入,经过神经元加权求和,然后通过激活函数得到最终的输出结果y。模型数学理解从模型结构来看,输出的结果y可以数学表达式如下:y=sigmod(f(x))=sigmod(w∗x+b)y=sigmod(f(x))=原创 2021-01-14 00:20:03 · 397 阅读 · 0 评论 -
浙江大学《机器学习》公开课程系列之第一章引言
浙江大学《机器学习》公开课程系列之第一章引言机器学习分类机器学习步骤本文系列主要是浙江大学机器学习mooc公开课所整理的笔记1机器学习分类监督学习与强化学习。监督学习按照训练数据有无标签分为有监督、无监督、半监督。监督学习按照标签是否连续分为分类和回归。机器学习步骤提取特征特征降维模型训练模型评估模型调优https://www.icourse163.org/learn/ZJU-1206573810 ↩︎...原创 2020-12-02 00:07:50 · 336 阅读 · 0 评论 -
【斯坦福图机器学习系列】之第一章
【斯坦福图机器学习系列】之第一章图机器学习是什么图机器学习解决什么图机器学习是什么这个其实就是数据结构中的graph,就不多说了,简而言之,就是顶点与边的组合。图机器学习解决什么图机器学习主要解决4类问题:1、预测给定节点的类型(节点分类)2、预测两个节点是否链接(链路预测问题)3、判断节点是否稠密(社区检测)4、衡量两个节点/网络的相似性(网络相似性)...原创 2020-11-27 23:30:07 · 210 阅读 · 0 评论 -
李宏毅机器学习课程(2020)之课程简介
课程简介这一节主要是课程介绍,感觉放一张图就能囊括本章所有内容这里主要想提出5类,1、监督:训练、测试集合独立同分布,分类或者回归问题2、非监督:自编码3、训练、测试集合不同分布:Domain Adversarial Learning4、前沿研究:可解释性AI、恶意攻击、网络压缩5、自学习能力:MetaLearning、Life-long Learning、Reinforcemen...原创 2020-03-12 10:48:09 · 1095 阅读 · 0 评论 -
李航统计学习方法(第二版)第二章 感知机学习笔记【实战篇】
感知机学习笔记【实战篇】原始形式对偶形式原始形式本节用李航大大第二版统计学习方法中的例题作为例子来进行学习与编码。题目是这个样子的【和第一版例题一样】我们回顾一下原始形式时的算法思想:1)设定 w, b 的初始值2)随机选取样本空间中的一个点(xi,yi)(x_i,y_i)(xi,yi)3)如果yi∗(w∗xi+b)<0y_i*(w*x_i+b)<0yi∗(w∗x...原创 2019-09-19 12:39:32 · 391 阅读 · 0 评论 -
统计学习方法第二版读书笔记——第一章 统计学习及监督学习概论
统计学习及监督学习概论统计学习的分类基本分类按模型分类概率模型和非概率模型【确定性模型】判别式模型和生成式模型统计学习的分类基本分类统计学习一般包括监督学习、无监督学习、强化学习,有时还有半监督学习和主动学习。按模型分类概率模型和非概率模型【确定性模型】概率模型与非概率模型的定义:在监督学习中,概率模型取条件概率分布形式P(y∣x)P(y|x)P(y∣x),非概率模型取函数形式y=f...原创 2019-08-29 12:19:16 · 592 阅读 · 0 评论 -
Udacity深度学习之Dropout
DropoutDropout含义练习练习1练习2Dropout含义 droupout在深度学习中用来防止过拟合,机器学习过拟合现象究竟是什么呢?具体可以可以周志华老师机器学习西瓜书(第二章)——模型评估与选择,同时解释为什么L1可以做特征选择,其系数为0(L2正则类似)来说。用一张图来表示就是:Dropou...原创 2019-01-10 21:59:59 · 1412 阅读 · 0 评论 -
Udacity深度学习之保存和读取tensorflow模型
保存和读取 TensorFlow 模型保存变量加载变量训练一个模型并保存它的权重加载训练好的模型训练一个模型的时间很长。但是你一旦关闭了 TensorFlow session,你所有训练的权重和偏置项都丢失了。如果你计划在之后重新使用这个模型,你需要重新训练!幸运的是,TensorFlow 可以让你通过一个叫 tf.train.Saver 的类把你的进程保存下来。这个类可以把任何 tf.Var...原创 2018-11-27 21:25:34 · 691 阅读 · 0 评论 -
深度学习之epoch
一个 epoch(代)是指整个数据集正向反向训练一次。它被用来提示模型的准确率并且不需要额外数据。本节我们将讲解 TensorFlow 里的 epochs,以及如何选择正确的 epochs。下面是训练一个模型 10 代的 TensorFlow 代码:from tensorflow.examples.tutorials.mnist import input_dataimport tensorf...转载 2018-10-28 16:44:59 · 23443 阅读 · 4 评论 -
深度学习之MiniBatch
我们先来看一个引子:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;Mini-batching在这一节,你将了解什么是 mini-batching,以及如何在 TensorFlow 里应用它。Mini-batching 是一个一次训练数据集的一小部分,而不是整个训练集的技术。它可以使内存较小、不能同时训练整个数据集的电脑也可以训练模型。Mini-batching 从运...原创 2018-10-28 12:18:27 · 39252 阅读 · 2 评论 -
周志华老师机器学习西瓜书(第二章)——模型评估与选择,同时解释为什么L1可以做特征选择,其系数为0(L2正则类似)
久仰西瓜书大名,之前拜读过,没做笔记又忘了。重新来过,做下笔记以备忘。本章节主要讲诉三个方面内容,一是过拟合,包括该现象的解释、产生与解决办法,二是说明模型的衡量指标,三是方差偏差的概念。过拟合通俗来说,就是在训练集集合上很好,在测试集上表现不好,泛化能力不好。过拟合现象产生原因一般有三种[参考Ref[2]]:1) 数据噪声,2) 训练集数据不足3)模型过于复杂 ...原创 2018-08-04 22:53:02 · 2830 阅读 · 4 评论 -
深度学习(tensorflow版本)(一)-----拟合y=w*x+b,从线性回归说起逻辑回归与FM(含推导、手撕及Python和scala代码)
#Ref: https://www.beibq.cn/book/cw0v22-1583import tensorflow as tfimport numpy as npx_data = np.float32(np.random.rand(2,100)) #2行100列y_data = np.dot([0.100,0.200], x_data) + 0.300 #1行2列 × 2行100...原创 2018-08-21 10:52:04 · 2893 阅读 · 0 评论 -
李洪义机器学习课程(一)——Learning Map学习笔记
我们先一张一张PPT来分析讲解[1]。 先放上李大大的总体框图: 这张图表明了接下来的知识脉络体系,也可以看成目前学术界、工业界的几大研究方向。整体上分为: 监督学习、半监督学习、无监督学习、迁移学习、强化学习。 对于监督学习又分为:回归、分类、结构化学习[2] 对于分类问题,整体上分为线性模型和非线性模型,非线性模型包括深度学习、SV...原创 2018-09-02 16:13:59 · 675 阅读 · 0 评论 -
台湾大学林轩田老师机器学习课程资料备忘
———-20180909———-加资料备注,会和李宏毅老师机器学习课程相互交叉相互学习—– Ref: 1、https://www.douban.com/note/634223396/ 2、https://blog.youkuaiyun.com/youyuyixiu/article/details/54317895 3、林轩田老师个人主页:https://www.csie.ntu.edu.tw/~htl...原创 2018-09-09 08:05:10 · 302 阅读 · 0 评论 -
李宏毅机器学习(二)——回归案例分析 Regression Case Study(附上代码Python版本,Scala版本后续加上,见文尾另一博客)
回归案例分析(按思路理解梳理一下): 以pokemon来分析回归问题,预测poken的战斗力: 首先想到的是一个线性模型,wi表示权重,xi我们可以理解成特征,b是偏差。对于预测的数值我们可以写成sum(wi*xi)+b, 预测问题的评判我们可以看预测值与实际值的差距,具体我们可以表示如下图,损失函数为平方损失: 具体优化目标(没有加正则项)可以表示为: 接下...原创 2018-09-06 22:23:02 · 815 阅读 · 0 评论 -
周志华《机器学习》西瓜书课后习题解答——第二章 模型评估与选择
第二章模型评估与选择的笔记部分见模型评估与选择,该部分主要做课后习题部分。 1、数据集包含1000个样本,其中500个正例,500个反例,将其划分为包含70%样本的训练集和30%样本的测试集用于留出法评估,试估算共有多少种划分方式。 解答:70%的训练集和30%的测试集,总样本1000,正负样本各500,即需要从正负样本中各筛选出500*30%=150的样本。划分方式总数 = 2、...原创 2018-09-12 22:35:15 · 2463 阅读 · 0 评论 -
梯度下降法
梯度下降法(PythonCode)梯度下降:代码现在假设只有一个输出单元,我来把这个写成代码。我们还是用 sigmoid 来作为激活函数 f(h)f(h)。Defining the sigmoid function for activations定义 sigmoid 激活函数def sigmoid(x):return 1/(1+np.exp(-x))Derivative of the...原创 2018-09-22 14:52:59 · 330 阅读 · 0 评论 -
李航统计学习方法之kNN实现(python及tensorflow版本)(暂停写,20181014完成更新)
scalaRef:1、scala Programming2、原创 2018-10-03 11:48:20 · 560 阅读 · 0 评论 -
李航统计学习方法之朴素贝叶斯法(含python及tensorflow实现)
朴素贝叶斯法朴素贝叶斯法数学表达式后验概率最大化的含义朴素贝叶斯法数学表达式&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;&amp;amp;amp;amp;nbsp;原创 2018-10-03 13:06:34 · 4072 阅读 · 0 评论 -
话说LR/Softmax各种损失函数
1、LR/Softmax目标函数Ref:http://deeplearning.stanford.edu/wiki/index.php/Softmax回归原创 2018-09-27 15:57:14 · 542 阅读 · 0 评论 -
模型如何选择
今天收到一面试,做笔试题目,有一道实操题,其中正样本138例,负样本30000多,样本严重不均衡,正负样本均衡后(1:1)一共才不到300样本,22233,一时间陷入两难境地,数据太少模型如何选择问题。先上xgb,然后auc是0.5… 抓狂ing,最后试了SVM和贝叶斯,auc还不错,到了...原创 2018-10-07 11:25:28 · 601 阅读 · 0 评论 -
李宏毅机器学习课程从入门到放弃(一)
————20180810———————- 先加备忘: Ref: [1] https://blog.youkuaiyun.com/soulmeetliang/article/details/77461607 [2] https://www.youtube.com/channel/UC2ggjtuuWvxrHHHiaDH1dlQ/playlists [3] https://github.com/GitY...原创 2018-08-10 11:00:23 · 2739 阅读 · 2 评论