2020年 - 面试笔记
关注
分享
扫一扫
文章平均质量分 71
各位看官早上好，中午好，晚上好！
这是我校招时候，整理准备的笔记，如果你觉得有帮助是我的荣幸！
人生简洁之道
Glad to meet you
展开
-
黄金时代 —— 深度学习（基础/补充）
文章目录优化梯度下降AdamW前置博客-深度学习基础优化梯度下降AdamWAdam + weight decateAdamw 即 Adam + weight decate ，效果与 Adam + L2 正则化相同，但是计算效率更高，之前的 L2 正则化需要在 loss 中加入正则项再算梯度，反向传播，AdamW 直接将正则项的梯度加入反向传播的公式中，减少在 loss 中加正则项这一步Adamw 即 Adam + weight decate ,效果与 Adam + L2正则化相同原创 2023-05-23 15:33:35 · 120 阅读 · 0 评论 -
白铁时代 —— （监督学习）原理推导
来自李航《统计学习方法》0 概论1 优化类1.1 感知机1.2 k近邻1.3 朴素贝叶斯1.4 逻辑回归最大熵模型1.5 支持向量机1.6 EM算法1.7 概率图模型HMMCRF2 集成类2.1 BoostingAdaboostBoost Tree & GBDT*XGBoost2.2 *Bagging随机森林...原创 2020-10-17 19:04:06 · 714 阅读 · 1 评论 -
石器时代 —— Leetcode刷题日记 （一 百大热题）
Date: 2019.10.22 ～ 2019.11.30热题1001 L1 两数之和O(n^2) -> O(n) Hashmap表建立 空间换时间(10.5MB,12ms)class Solution {public: vector<int> twoSum(vector<int>& nums, int target) { ...原创 2020-05-06 10:24:47 · 3055 阅读 · 1 评论 -
黄金时代 —— 深度学习 (BackBone)
网络结构目标检测原创 2020-10-17 19:03:36 · 2077 阅读 · 0 评论 -
黄金时代 —— BackBone (二)
文章目录Cascade R-CNN动机解决途径损失函数注意力机制CV中的注意力类别视觉注意力机制No-local 网络模块Cascade R-CNNCascade R-CNN: Delving into High Quality Object Detection针对R-CNN系列的两步检测模型 提出的改进方法。主要是针对匹配策略提出了 multi-level 的方式。动机检测 = 分类 + 定位分类来说，标签就是标签，直接计算损失就行定位就比较麻烦，目前主要解决方法就是回归问题！定位原创 2020-10-17 19:03:15 · 507 阅读 · 0 评论 -
白铁时代 —— （无监督学习）原理推导
聚类降维概率估计原创 2020-10-17 19:02:51 · 977 阅读 · 0 评论 -
黄金时代 —— 深度学习 (目标检测)
IoU原创 2020-10-17 19:02:21 · 3072 阅读 · 0 评论 -
黄金时代 —— 深度学习 (基础)
文章目录1 优化方法梯度下降SGDSGD+Momentum (动量项)SGD+Nesterov (前瞻动量)AdaGrad (梯度平方累计)AdaDelta (梯度平方平均值+自适应学习率)RMSprop (梯度平方平均值)Adam (梯度平方平均值 + 动量项)Adamax (学习率设上界 + Adam)Nadam (NAG + Adam)合适的优化方法Adam (Adaptive Moment Estimation)Adam 中使用的指数加权滑动平均法偏差修正Adam的原理机制Adam参数和默认参数二阶原创 2020-10-17 19:01:39 · 920 阅读 · 0 评论