m0_37327467的博客

转载 面试笔试整理3：深度学习机器学习面试问题准备（必会）

本文转载自：https://blog.youkuaiyun.com/woaidapaopao/article/details/77806273第一部分：深度学习1、神经网络基础问题（1）Backpropagation（要能推倒） 　　后向传播是在求解损失函数L对参数w求导时候用到的方法，目的是通过链式法则对参数进行一层一层的求导。这里重点强调：要将参数进行随机初始化而不是全部置0，否则所有隐层的数值都...

转载 BAT机器学习面试1000道

本文转载自： https://blog.youkuaiyun.com/sinat_35512245/article/details/78796328 1.请简要介绍下SVM。SVM，全称是support vector machine，中文名叫支持向量机。SVM是一个面向数据的分类算法，它的目标是为确定一个分类超平面，从而将不同的数据分隔开。扩展：支持向量机学习方法包括构建由简至繁的...

原创 机器学习之问答题汇总

机器学习面试问题汇总—史上最详细BAT机器学习面试1000题系列特征工程问题汇总机器学习之特征工程相关问题模型优化问题常见的损失函数有哪些？机器学习中常见的损失函数机器学习中防止过拟合的方法：正则化，L1正则化和L2正则化early_stop,设定一个目标损失值，到达之后停止增加数据样本，复采样dropout参考文章：机器学习中防止过拟合的处理方法极值点...

原创 AI简历问题解答

1. 朝阳永续库是什么？

原创 数字IC验证基础知识

利用数学分析的方式，对设计的状态空间进行穷举分析的验证，数据静态验证，不需要灌注激励，对设计进行检查；

原创 数字电路中的基础电路结构

集成电路基本单元汇总

原创 转载——比较器的原理

比较器的原理

原创 VIM配置

vim配置文件

原创 memory知识点

一、RAM的概念和分类RAM因为可以重复读写，主要用于主存储器，高速缓存器使用。RAM主要分为SRAM和DRAM，其中SRAM速度快，低密度，高功耗，比较昂贵；DSRAM速度比较慢，密度高，低功耗，成本比较低。二、RAM的工作原理1、SRAM的工作原理如下图所示，sram由6个mos管组成，这样占用的面积很大，但是因为是一个稳态的结构，不会掉电，所以很稳定。这样也让sram不需要刷新，在读取的时候直接读写，速度比较高。2、DRAM的工作原理DRAM主要由一个mos管加一个电容组成

原创 AI芯片设计--ai芯片基础知识

一、为什么要使用ai芯片这个图是48纳米下各个数据类型下芯片的功耗和面积，可以看到fp16的数据类型的功耗和面积都要比fp32的要小很多，量化来看是小了4倍，这也是为什么现在需要支持int8类型的数据，而大部分的神经网络其实在int8类型下面就已经有很高的精确度了。关于pruning（剪枝）对精确度的影响，假如只是剪枝那么将会损失很大的精度，但是如果将剪枝完的weight重新进行训练，那么即使剪枝超过80%，精度也不会下降多少。...

原创 芯片设计中的AI方法-资料留存

功率和 IR 压降分析流片前功率估计和优化是当今所有芯片设计流程的一个关键方面。准确的分析需要在带有注释电容寄生的门级网表上运行逻辑仿真。然而，这些模拟非常缓慢，通常每秒运行 10-1000 个时钟周期，具体取决于活动因素和设计大小。为了提供更快而准确的功率估计，ML 模型可以通过在没有仿真的情况下通过逻辑网表估计开关活动因子的传播来预测动态功率。GRANNITE以 PRIMAL 流程为基础，通过 GNN 实现模型可迁移到新设计。门网表被转换成具有每节点（门）和每边（网）特征的图形，例如每个门的固有

原创 vscode 更新之后无法连接远程服务器

vscode更新之后c++插件都没有办法使用了,每次更新之后都需要重新按照下面步骤安装，有点烦。。解决方法：1. 主目录下的.vscode-server/文件夹，重新安装插件之后重新打开。2. 如果显示无法安装“vscode c/c++ language components (linux / x86_64)”，根据vscode提示的地址下载相对应的安装包：3. 下载之后点击vscode的“从VSIX安装”，之后等待安装好即可。参考文章：vscode远程连接服务器时一..

原创 线性回归，决策树，knn等6种机器学习回归方法总结

线性回归：线性回归所能够模拟的关系其实远不止线性关系。线性回归中的“线性”指的是系数的线性，而通过对特征的非线性变换，以及广义线性模型的推广，输出和特征之间的函数关系可以是高度非线性的。决策树：在特征选择中通常使用的准则是：信息增益。决策树生成选择好特征后，就从根节点触发，对节点计算所有特征的信息增益，选择信息增益最大的特征作为节点特征，根据该特征的不同取值建立子节点；对每个子节点使用相同的方式生成新的子节点，直到信息增益很小或者没有特征可以选择为止。ID3 算法ID3 是最早提..

原创 c++——静态成员函数

静态成员的定义：静态成员是在类中定义的一个成员变量，和普通成员函数不同的地方是在声明类型之前加入了关键字static,如：class Account{public:private: std::string name; int cash; static int interest;};静态成员函数的定义：静态成员函数和静态成员变量类似，只是在普通成员函数前面加入了关键字static:如：class Account{public: static vo

原创 shell学习

在linux中打开的命令行界面叫做console（注意刚进去的时候有图形界面，这个时候退出图形界面之后才叫console）. 按下Ctrl + Alt + Fn(n=1,2,3,4,5...)能够在多个console中切换。 在linux情况下进行操作时用户的命令提示符如果时#就表示的是超级用户（root),如果是$表示的是普通用户。 在bash shell中进行变量赋值的时候无论赋值的时候有没有引号都会当作字符串进行处理。而且shell赋值的时候‘=’旁边不能有初值，这个和其他语言方面不太一样。

原创 GDB学习

一、哪类程序可以使用GDB对于初次编译的程序，需要加入了-g之后才能编译；如果不是初次编译的程序也需要看之前编译是否有-g。通过gdb filename如果没有调试信息，会提示no debugging symbols found。如果是下面的信息则可以进行GDB编译。Reading symbols from helloWorld...done.或者使用"file filename"的形式出现了“stripped”那么也是不能进行调试。二、启动GDB没有参数的程序只需要“run

原创 二进制乘法计算总结

结论:1.计算前符号位扩展2.有符号负数计算机计算过程直接计算，人工语言转化为原码计算。首先需要确定的是在计算机中所有的数都是以补码的方式存在。所以在无符号数计算，因为无符号数的补码就是本身，可以直接计算。在有符号的计算中，假如为负数，人工计算的过程中，需要先将这个负数转化为原码的形式再进行计算。而计算机本身直接按照本身的补码形式计算即可。但是需要注意计算结果的位数，在计算之前需要将乘数都符号位扩展的方式转为相应的位数。举例说明:A = 101B = 011假如A,B都为无符号数:

原创 深度学习之卷积神经网络CNN专题

本文主要收录关于卷积神经网络相关知识点，本文面向的对象是复习CNN相关知识点及找工作人群~深度学习笔记（3）——CNN中一些特殊环节的反向传播其中池化层如何进行反向传播说明的很好，介绍了mean pooling和max pooling两种池化层的反向传播方法，写的比较清晰，看一遍就懂了。...

原创 数字ic知识点总结

目录参考文章问题：时序逻辑电路分析乒乓buffer触发器建立时间和保持时间（这个图画的很详细）verilog 实现任意分频计算机体系结构——流水线技术（Pipelining）敏感列表数字ic设计流程长沟道器件电压和电流的关系亚稳态DMA(直接内存访问)FIFOVerilog整理笔记之SRAM篇RAM家族HDL语言的层次概念ve...

原创 fasttext原理，实战和调参经验分享

fasttext理论知识• 参考文献 ○ https://heleifz.github.io/14732610572844.html• fasttext官方文档，上面有很多的已经训练好的词向量• embedding其实是fasttext用于分类任务时产生的副产物• fasttest主要思想 ○ （1）字符级别的n-gram word2vec把语料库中的每个单词当成原子的，它会为每个单...

原创 自然语言处理处理之词向量构建方法实战

word2vec主要需要做中文的词向量，这里在github上找到一个比较好的例子，可以拿来参考一下。具体详细介绍请知乎专栏https://zhuanlan.zhihu.com/p/28979653github地址：https://github.com/Deermini/word2vec-tensorflowfasttextfasttext官方文档，上面有很多的已经训练好的词...

原创 tensorflow实战--知识点汇总

如何为Keras中的深度学习模型建立Checkpoint

转载 数据结构基本知识

本文转载自：https://www.cnblogs.com/ksWorld/p/7537157.html1，数据结构三要素：　　1，逻辑结构：线性和非线性　　2，存储结构：顺序，链式，索引，散列　　3，数据运算：算法　　具体时间复杂度与问题的规模和初始条件相关，分最佳和最大2，线性表：无头结点:　　头插法：s->data=ch;s->next=head;head=s;　　尾...

原创 推荐系统相关资料

Kaggle实战——点击率预估推荐系统遇上深度学习系列推荐系统遇上深度学习(三)--DeepFM模型理论和实践CTR预估 论文精读(七)--DeepFM: A Factorization-Machine based Neural Network for CTR Predictionhttps://www.kaggle.com/c/mercari-price-suggestion-c...

原创 算法岗面试题目汇总

目录阿里巴巴一面阿里巴巴二面oppo一面笨鸟科技京东二面：算法题：阿里巴巴一面特征值怎么去除掉行业和市值的影响？去残差是什么意思？ cnn的那个项目数据处理是怎么做的？ 卷积神经网络预测股票走势项目内容概括 为什么用cnn来预测时序的模型？ cnn这个项目里面有没有遇到什么困难？ 讲一下q-learning的那个项目？ 这...

原创 自然语言处理之Transformer

自然语言处理之文本处理步骤 自然语言处理之特征提取和嵌入 深度学习之注意力机制attention这篇文章是自然语言处理的第四篇，上篇讲到attention机制，这篇文章主要介绍一下attention的极致应用。全文都是我自己理解，有兴趣的可以看看这篇文章：The Illustrated Transformer，真的写的太好了。这位博主还是Udacity上的老师，我在上自然语言处理的时候讲师就...

原创 深度学习之注意力机制attention

注意力机制是深度学习在近几年最重要的一个创新。本文将介绍简要的介绍一下注意力机制的原理。Sequence to Sequence model在将注意力机制之前首先要介绍一下S2S model，在rnn中，当输入为多个序列输出也为多个序列且输入输出长度不相等时我们需要使用到S2S model,例如在机器翻译中，我们输入的很有可能是一个长句子，翻译成其他语言时它的长度发生了改变，这样的话我们便...

原创 自然语言处理之特征提取和嵌入

在经过了文本处理步骤（可参考自然语言处理之文本处理步骤）后有下列几种方法可以进行特征提取。Bag of word将这些词变成一个索引放入一个表格中，然后每个文档作为一行，统计文档中的词出现的次数。如何计算两个文档之间的相似度呢？一种方法是计算两个文章的点积，但是点积有个缺陷，只能捕捉重叠部分的，它不受其他不同值的影响，因此差别很大的两行，这两行比较长，和差别很小的两行，这两...

原创 自然语言处理之文本处理步骤

1， 首先将全部单词转换为小写，并清除标点符号，将其标准化2. 用分词器将这个段落或者句子分解成单个词3. 删除停止词（如：go, to, i , the , that)等以减少需要处理的词汇4. 有必要的话可以同时进行词干提取和词性还原，将词还原成词根或者词干，常见的步骤是先进行词根还原和词干提取。...

原创 隐式马尔可夫链

转载 KMP算法——很详细的讲解

target="_blank">http://www.cnblogs.com/SYCstudio/p/7194315.html KMP算法（研究总结，字符串） KMP算法（研究总结，字符串）前段时间学习KMP算法，感觉有些复杂，不过好歹是弄...

原创 深度学习之循环神经网络RNN

本文只是知识的搬运工，将有干货的文章搬运过来进行汇总，传播知识人人有责。循环神经网络(RNN, Recurrent Neural Networks)介绍主要分成以下几个部分对RNNs进行介绍：1. RNNs的基本介绍以及一些常见的RNNs(本文内容)；2. 详细介绍RNNs中一些经常使用的训练算法，如Back Propagation Through Time(BPTT)、Rea...

原创 深度学习之资料汇总

RNN零基础入门深度学习(6) - 长短时记忆网络(LSTM)深度学习之循环神经网络RNNattention浅谈Attention-based Model【原理篇】cnnResNet解析

原创 牛顿法和梯度下降法的区别

解析： 牛顿法（Newton's method）牛顿法是一种在实数域和复数域上近似求解方程的方法。方法使用函数f (x)的泰勒级数的前面几项来寻找方程f (x) = 0的根。牛顿法最大的特点就在于它的收敛速度很快。具体步骤：首先，选择一个接近函数 f (x)零点的 x0，计算相应的 f (x0) 和切线斜率f ’ (x0)（这里f ’ 表示函数 f 的导数）。然后我们计算穿过点(x0,...

转载 如何通俗易懂地讲解牛顿迭代法？

本文转载自：https://www.matongxue.com/madocs/205.html 五次及以上多项式方程没有根式解（就是没有像二次方程那样的万能公式），这个是被伽罗瓦用群论做出的最著名的结论。但是，没有王屠夫难道非得吃带毛猪？工作生活中还是有诸多求解高次方程的真实需求（比如行星的轨道计算，往往就...

转载 神经网络BP反向传播算法原理和详细推导流程

本文转载自：https://blog.youkuaiyun.com/qq_32865355/article/details/80260212 1  反向传播算法和BP网络简介    误差反向传播算法简称反向传播算法（即BP算法）。使用反向传播算法的多层感知器又称为BP神经网络。BP算法是一个...

原创 推荐算法资料汇总

常见推荐算法科普这篇文章主要是科普类的，介绍了主要的推荐算法有流行度推荐，基于内容推荐，协同过滤推荐以及混合推荐。流行度推荐是推荐现在最火热的内容给用户，基于内容的推荐是推荐给用户喜欢的类似的内容，协同滤波推荐主要介绍相似的物品和相似的用户的差异项给用户，混合推荐则将几种方法混合起来进行推荐。推荐算法和机器学习系列 - 协同过滤推荐算法和余弦相似性算法这篇文章主要介绍了协同过滤的具体...

原创 机器学习之svm专题

参考文章：SVM如何用于回归分析手把手教你实现SVM算法（一）四颗星LR与SVM的异同支持向量机通俗导论（理解SVM的三层境界）（1000多个赞。。）SVM模型主要问题SVM要点：**距离度量**，**支持向量**，**损失函数**，**对偶问题**，**拉格朗日乘法**，**核函数**，**软间隔**SVM算法的主要优点有：1) 解决高维特征的分...

原创 吴恩达深度学习课程笔记

loss funciton：是单个例子相对于真实标签的误差cost function：是整个数据集产生的loss function的总和，机器学习训练的过程中就是要不断的减小这个cost funciton逻辑回归几乎所有的初始化方式都有效，因为选择的损失函数是交叉熵，是一个凸函数。 第四周 深层神经网络核对矩阵的维度：第l层的权重w的维度应该为（n_[l], n_[...

原创 leetcode刷题之递归，回溯和分治

78. 子集给定一组不含重复元素的整数数组nums，返回该数组所有可能的子集（幂集）。说明：解集不能包含重复的子集。示例:输入: nums = [1,2,3]输出:[ [3], [1], [2], [1,2,3], [1,3], [2,3], [1,2], []]python解答：思路一：利用递归和回溯的思想。 ...