qq_27514521的博客

原创 AdaBoost推导

首先是Adaboost算法流程

原创 笔记随笔(ing)：计算机视觉部分

1、ResNet和DenseNet的区别和联系第一个公式是ResNet的。这里的l表示层，xl表示l层的输出，Hl表示一个非线性变换。所以对于ResNet而言，l层的输出是l-1层的输出加上对l-1层输出的非线性变换。解决梯度爆炸和网络退化问题。第二个公式是DenseNet的。[x0,x1,…,xl-1]表示将0到l-1层的输出feature map做concatenation。...

原创 笔记随笔(ing)：机器学习部分

1、https://blog.youkuaiyun.com/ccbka/article/details/78638969P-R曲线和mAP2、KNN和KD树

原创 机器学习各类损失函数汇总和比较

一直以来各种机器学习或者说统计学习算法的损失函数都是独立讨论的，在这里对这些作一个汇总，期待能找到之间的联系。在这里提及的算法有1、线性回归2、逻辑回归3、支持向量机4、决策树5、一、线性回归二、逻辑回归对于二分类问题有三、支持向量机首先先介绍一下关于点到直线距离的小知识...

原创 LR推导

原创 XGBOOST(待完善)

（黄色文本表示没有完全理解，待完善）XGBOOST，全称eXtreme Gradient Boosting，是一种监督学习模型。给定输入,预测。XGBOOST是GBDT(Gradient Boosted Decision Trees)的一种。是一个加性回归模型，通过 boosting 迭代的构造一组弱学习器，相对 LR 的优势如不需要做特征的归一化，自动进行特征选择，模型可解释性较好， 可...

原创 时间差分方法Q-learning和sarsa的区别

Q-learning和sarsa都是利用时间差分目标来更新当前行为值函数的。唯一不同的是在Q-learning中,行动策略(产生数据的策略)和要评估的策略不是一个策略，因此称之为异策略(off-policy),而在sarsa中，正好相反，也就是行动策略(产生数据的策略)和要评估的策略是一个策略，称之为同策略(on-policy)。下面从算法的角度解释其中的区别。如上图所示，为sarsa的算...