sereasuesue的博客

生成随机数print( random.randint(1,10) ) # 产生 1 到 10 的一个整数型随机数 print( random.random() ) # 产生 0 到 1 之间的随机浮点数print( random.uniform(1.1,5.4) ) # 产生 1.1 到 5.4 之间的随机浮点数，区间可以不是整数print( random.choice('tomorrow') ) # 从序列中随机选取一个元素print(

位运算概览符号 描述 运算规则 & 与 两个位都为1时，结果才为1 | 或 两个位都为0时，结果才为0 ^ 异或 两个位相同为0，相异为1 ~ 取反 0变1，1变0 << 左移 各二进位全部左移若干位，高位丢弃，低位补0 >> 右移 各二进位全部右移若干位，对无符号数，高位补0，有符号数，各编译器处理方法不一样，有的补符号位（算术右移），有的补0（逻辑右移） 1

model.eval() 的重要性,在2)中最后用到了model.eval(),是因为,只有在执行该命令后,"dropout层"及"batch normalization层"才会进入 evalution 模态. 而在"训练(training)模态"与"评估(evalution)模态"下,这两层有不同的表现形式.模态字典(state_dict)的保存(model是一个网络结构类的对象)1.1)仅保存学习到的参数,用以下命令 torch.save(model.state_dict(), ...

使用2.0中的v1兼容包来沿用1.x代码TensorFlow 2.0中提供了tensorflow.compat.v1代码包来兼容原有1.x的代码，可以做到几乎不加修改的运行。社区的contrib库因为涉及大量直接的TensorFlow引用代码或者自己写的Python扩展包，所以无法使用这种模式。TensorFlow 2.0中也已经移除了contrib库，这让人很有点小遗憾的。使用这种方式升级原有代码，只需要把原有程序开始的TensorFlow引用import tensorflow as tf

最近在看图神经网络，发现了部分宝藏视频部分个人感觉容易懂的科普各类讲座https://www.bilibili.com/video/BV1j54y1975phttps://www.bilibili.com/video/BV17y4y1E7Gr入门到精通https://www.bilibili.com/video/BV1K5411H7EQ代码调试部分很棒贪心学院公开课https://www.bilibili.com/video/BV19U4y1s7cv有两三个（中文）论文部分C

TensorFlow版本2发布后，使用TensorFlow变得更简单和方便，但看网上的很多代码是使用的TensorFlow1进行完成的，每次遇到不懂的函数去查，理解记忆的一般，感觉还是有点不清楚所以又快速看了一下TensorFlow1常用的方法，感觉似乎比之前清楚了一下。整理记录下方便阅读代码这个TensorFlow教程挺好的https://www.w3cschool.cn/tensorflow_python/课程的话个人感觉莫凡系列的挺好懂TensorFlow 的特点：使用图 (gr.

1.1 图的表示1.2 图的特性子图Subgraph连通分量Connected Component接通图Connected Graph最短路径Shortest Path图直径Diameter1.3 图中心性. Centrality特征向量中心性Eigenvector Centrality特征向量中心性的基本思想是，一个节点的中心性是相邻节点中心性的函数。也就是说，与你连接的人越重要，你也就越重要。度中心性 （Degree centrality）  度中心性...

正则表达式这一篇就够了，记录学习方便回来查找文章来源https://mofanpy.com/tutorials/python-basic/basic/regular-expression/https://www.cnblogs.com/huxi/archive/2010/07/04/1771073.html正则式表达,使用特殊的 pattern 来灵活匹配需要找的文字.如果需要找到潜在的多个可能性文字, 我们可以使用[]将可能的字符囊括进来. 比如[ab]就说明我想要找的字符可以...

结构化的外部记忆记忆网络通常由四个模块构成：主网络 、外部记忆单元 、读取模块 以及写入模块 。主网络 也叫做控制器，任务是解决内容和外界的交互。外部记忆单元负责存储信息，由很多记忆片段组成，它们按照一定的规则来进行组织。读操作负责从外部记忆中读取相应的内容。写操作负责更新外部记忆。结构化的外部记忆是有地址的，即任何一个记忆片段都能够按地址进行读写操作。若要拥有类似于人脑神经网络的联想记忆能力，就要按照内容寻址的方法进行定位，其次进行读写操作。一种“软性”的寻址方法是通过注意力机制实现的，..

参考资料斯坦福CS224W课程： http://cs224w.stanford.eduhttps://snap-stanford.github.io/cs224w-notes/https://www.bilibili.com/video/av84385561https://github.com/snap-stanford/cs224w-notes• 图学习库 PGL：https://github.com/PaddlePaddle/PGL资料推荐• 理论：• 综述Gra.

tf.transpose函数中文意思是转置，对于低维度的转置问题，低维的还可以理解高维有点懵看了博客也不是很明白tf.transpose函数tf.transpose( a, perm=None, name='transpose', conjugate=False)置换 a,根据 perm 重新排列尺寸.返回的张量的维度 i 将对应于输入维度 perm[i].如果 perm 没有给出,它被设置为(n-1 ... 0),其中 n 是输入张量的秩.因此.

偏差（Bias）和方差（Variance）是机器学习领域非常重要的两个概念和需要解决的问题。在传统的机器学习算法中，Bias和Variance是对立的，分别对应着欠拟合和过拟合，我们常常需要在Bias和Variance之间进行权衡。而在深度学习中，我们可以同时减小Bias和Variance，构建最佳神经网络模型。偏差（Bias） 欠拟合 方差（Variance） 过拟合 猫识别问题中的方差和偏差bias和variance Train set error..

2. 创建一般的多维数组 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 importnumpy as np a=np.array([1,2,3], dtype=int)# 创建1*3...

决策树（Decision Tree）原理及实现一、算法简介1.1 基本模型介绍决策树是一类常见的机器学习方法，可以帮助我们解决分类与回归两类问题。模型可解释性强，模型符合人类思维方式，是经典的树形结构。分类决策数模型是一种描述对实例进行分类的树形结构。决策树由结点 (node) 和有向边 (directed edge) 组成。结点包含了一个根结点 (root node)、若干个内部结点 (internal node) 和若干个叶结点 (leaf node)。内部结点表示一个特征或属性，叶结点表.

Self-Attention与Transformer详解https://zhuanlan.zhihu.com/p/47282410 写的非常详细https://jalammar.github.io/illustrated-transformer/

最近在看最新RNN相关模型 找到很多论文Fundamentals of Recurrent Neural Network (RNN) and Long Short-Term Memory (LSTM) network递归神经网络（RNN）和长短期记忆（LSTM）网络的基础要点•递归神经网络（RNN）的定义来自延迟微分方程。 •RNN展开技术在形式上被证明是近似无限序列。 •可以从RNN逻辑上合理化长短期内存网络（LSTM）。 •提供了完全推导LSTM训练方程式的系统图...

喜欢收集资源，一起分享交流具体见https://www.tinymind.cn/articles/4265循环神经网络部分No33 QRNN模型论文：在RNN模型的cell里，如果还只知道LSTM和GRU。那就太low了。快来补补吧：如果想更多了解QRNN，可以参考以下论文：http://arxiv.org/abs/1611.0157No34 SRU模型论文：接着来，各种RNN的Cell。又漂亮，又好吃！SRU单元在本质上与QRNN单元很像。从网络构建上看，SRU单.

torch.Tensor.scatter_scatter() 和 scatter_() 的作用是一样的，只不过 scatter() 不会直接修改原来的 Tensor，而 scatter_() 会torch.Tensor.scatter_()是torch.gather()函数的方向反向操作。两个函数可以看成一对兄弟函数。gather用来解码one hot，scatter_用来编码one hot。PyTorch 中，一般函数加下划线代表直接在原来的 Tensor 上修改scatter_(dim

1. torch.unsqueeze 详解torch.unsqueeze(input, dim, out=None)作用：扩展维度返回一个新的张量，对输入的既定位置插入维度 1注意： 返回张量与输入张量共享内存，所以改变其中一个的内容会改变另一个。如果dim为负，则将会被转化dim+input.dim()+1参数: tensor (Tensor) – 输入张量 dim (int) – 插入维度的索引 out (Tensor, optional) – 结果张量A dim valu

最近看到很多论文代码都是用解析器写的argparse 命令行选项、参数和子命令解析器argparse 模块可以让人轻松编写用户友好的命令行接口。程序定义它需要的参数，然后 argparse 将弄清如何从 sys.argv 解析出那些参数。 argparse 模块还会自动生成帮助和使用手册，并在用户给程序传入无效参数时报出错误信息。创建一个解析器使用 argparse 的第一步是创建一个 ArgumentParser 对象：parser = argparse.ArgumentParse.

PyTorch：nn在构建神经网络时，我们经常考虑将计算分为几层，其中一些层具有可学习的参数，这些参数将在学习过程中进行优化。在TensorFlow，像包Keras，TensorFlow修身，和TFLearn提供了原始计算图表，是构建神经网络有用的更高层次的抽象。在PyTorch中，该nn程序包达到了相同的目的。该nn软件包定义了一组Modules，它们大致等效于神经网络层。模块接收输入张量并计算输出张量，但也可以保持内部状态，例如包含可学习参数的张量。该nn软件包还定义了一组有用的损失...

tf.compat.v1.train.exponential_decay将指数衰减应用于学习率。tf.compat.v1.train.exponential_decay( learning_rate, global_step, decay_steps, decay_rate, staircase=训练模型时，通常建议随着训练的进行降低学习率。此函数将指数衰减函数应用于提供的初始学习率。它需要一个global_step值来计算衰减的学习率。您只需传递一个TensorFlow变量，...

目录模型评估常见方法ROC和AUC定义sklearn计算ROC具体实现计算ROC需要知道的关键概念1. 分析数据2. 针对score，将数据排序3. 将截断点依次取为score值3.1 截断点为0.1sklearn.metrics中的评估方法介绍模型评估常见方法分类模型评估：指标 描述 Scikit-learn函数 Precision 精准度 from sklearn.metrics import precision_score

记录一下最近学习的资源，方便寻找：Github 上已经有人把作业整理成为 Python 的形式了。有 .py 和 .ipynb 两种格式。https://github.com/nsoojin/coursera-ml-pyhttps://github.com/kaleko/CourseraML参考博客：https://blog.youkuaiyun.com/red_stone1/article/details/90044363吴恩达deep learning.ai专项课程精炼笔记全部汇总https

python def __init__(self, name等多参数), def __init__(self)常见的两种类的定义方式如下#第一种class Student: def __init__(self):#两者之间的区别 self.name = None self.score = None##第二种 def __init__(self, name, score): self.name = name

课堂笔记方便自己回忆课程相关课程地址见 https://mooc.study.163.com/course/2001281002#/info该专项课程的Coursera地址：https://www.coursera.org/specializations/deep-learning什么是神经网络？用神经网络进行监督学习监督式学习与非监督式学习本质区别就是是否已知训练样本的输出y。在实际应用中，机器学习解决的大部分问题都属于监督式学习，神经网络模型也大都属于监督式学习。应用实例

1. 知识追踪的定义、现状及挑战在上学的时候经常碰到过这样的状况，老师会经常考试，那么老师不能平白无故的给你考试，为什么要考试呢？他考试的主要目的就是为了掌握你对于某一知识的衡量水平，那么对于现在的技术水平而言呢呃，我们教育上面的一些主要模式主要是老师来出题，然后学生做题，然后老师根据学生的或者题目的反馈来衡量一个学生的水平，当然这样是有它自身的缺点，主要缺点在于老师的工作量实在是太大了，那么有没有什么方法能够改善这困境呢？那么这一道引入我们知识追踪。2. 简单知识追踪的模型——贝叶斯知识追踪 (B

在机器学习算法中，我们经常会遇到分类特征，例如：人的性别有男女，祖国有中国，美国，法国等。这些特征值并不是连续的，而是离散的，无序的。通常我们需要对其进行特征数字化。考虑以下三个特征：["male", "female"]["from Europe", "from US", "from Asia"]["uses Firefox", "uses Chrome", "uses Safari", "uses Internet Explorer"]如果将上述特征用数字表示，效率会高很多。例如

用LSTM进行情感分析原理深度学习在自然语言处理中的应用自然语言处理是教会机器如何去处理或者读懂人类语言的系统，主要应用领域：对话系统 - 聊天机器人（小冰） 情感分析 - 对一段文本进行情感识别（我们一会要做的） 图文映射 - CNN和RNN的融合 机器翻译 - 将一种语言翻译成另一种语言，谷歌翻译已经很好词向量模型词向量是具有空间意义的并不是简单的映射！例如，我们希望单词 “love” 和 “adore” 这两个词在向量空间中是有一定的相关性的，因为他们有类似的定义，他们都在

数据集下载https://github.com/renjunxiang/Text-Classification其他文本分析数据及数据处理代码https://github.com/renjunxiang/Text-Classification一.流程分析1、创建train reader 和 test_reader2、创建lstm模型3、定义 words、label 张量4、优化函数、损失函数5、训练 & 保存模型6、使用模型进行预测impor...

使用LSTM进行情感分析文档好多博主都有发见https://blog.youkuaiyun.com/duanlianvip/article/details/103584543数据集见下文https://pan.baidu.com/s/1SctPmfFlq6ilY2bxcXHIFA深度学习在自然语言处理中的应用自然语言处理是教会机器如何去处理或者读懂人类语言的系统，主要应用领域：对话系统 - 聊天机器人（小冰） 情感分析 - 对一段文本进行情感识别（我们一会要做的） 图文映射 - CNN和RNN的

机器学习&深度学习资料汇总的链接记录，方便以后查询https://bbs.cvmart.net/articles/1316https://bbs.cvmart.net/Github?page=1计算机视觉知识点总结https://bbs.cvmart.net/articles/380CVPR2020 最全整理：论文汇总 / 代码 / 项目 / 论文解读（更新中）【计算机视觉】https://bbs.cvmart.net/articles/1538...

目录深度知识追踪（Deep Knowledge Tracing）ContributionsKnowledge Tracing ​MotivationRecurrent Neural Networks(RNN)Long Short Term Memory (LSTM)Previous WorkBayesian Knowledge Tracing (BKT)Learning Factors Analysis (LFA)Performance Factors ...

目录安装与打开jupyter notebook常见命令更改工作路径方法一方法2快捷键Jupyter Notebook如何导入代码安装与打开安装Anaconda会一起打包安装。或者pip 然后打开jupyter,会在默认浏览器(建议Chrome)打开jupyter。jupyter notebook常见命令1、常用的jupyter notebook一些命令如下：指的是在cmd中使用jupyter命令（1）查看jupyter notebook的相关帮助ju.

目录RNN 循环/递归神经网络RNN概述RNN模型LSTM长短记忆网络使用LSTM进行情感分析RNN 循环/递归神经网络RNN概述为什么有RNN传统的神经网络,CNN(卷积神经网络), 他们的输出都是只考虑前一个输入的影响而不考虑其它时刻输入的影响, 比如简单的猫,狗,手写数字等单个物体的识别具有较好的效果. 但是, 对于一些与时间先后有关的, 比如视频的下一时刻的预测,文档前后文内容的预测等, 这些算法的表现就不尽如人意了.并且传统的网络结构是采用固定大小的输入并产

数据挖掘大作业题目：航空公司客户价值分析目录一、 任务背景 2二、 数据挖掘目标 2三、数据探索与预处理 3构建航空客户价值分析的关键特征 3数据抽取 5探索性分析 5数据处理 6四、模型构建与评价 121.模型构建K-Means聚类算法 12客户价值分析 13五、 总结 16任务背景高铁、动车等铁路的不断兴建，出行方式的多元...

1、卷积核卷积核的大小根据7×7与3×3卷积核loss值的对比可以发现， 在初始阶段卷积核较大时准确率更低，因为卷积核越 大每一次训练时丢弃的特征值越多。但是，随着训练 次数的增加，卷积核较大的实验最终达到甚至高于同 等条件下卷积核较小的实验对象的准确值。卷积核的数量在一定范围内，适当增加卷积核的数量可以提高准确率。刚开始设置的卷积核数目较少，运行出的精确度 较低，且收敛慢；...

加载训练图像在 ORB 中，将要被寻找的目标图像被称为训练图像（training image）。定位关键点我们将使用 OpenCV 的 ORB 实现定位关键点并创建相应的 ORB 描述符。ORB 算法的参数是使用orb_create（）函数设置的。orb_create（）函数的参数及其默认值如下：cv2.ORB_create(nfeatures = 500, ...

最近写毕设需要模型图找了几个可视化工具可视化工具本文主要介绍Netscope和ConvNetDraw。Netscopehttps://cuijiahua.com/netscope/quickstart.htmlConvNetDrawConvNetDraw也是一个用于可视化卷积神经网络模型结构的小工具。与Netscope不同的是，ConvNetDraw是使用可视化命令进行可视化的...

keras.layers.Conv2D(filters, kernel_size, strides=(1, 1), padding='valid', data_format=None, dilation_rate=(1, 1), activation=None, use_bias=True, kernel_initializer='glorot_uniform', bias_initialize...