- 博客(34)
- 收藏
- 关注
RSS订阅原创 Attention
自用笔记RNN的局限性和Attention机制的基本思想：Attention机制详解（一）——Seq2Seq中的AttentionSelf-Attention和Transformer：Attention机制详解（二）——Self-Attention与TransformerAttention模型的各种应用场景：Attention机制详解（三）——Attention模型的应用...
2021-12-12 20:02:11
1240
原创 Advanced RNN - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 13部分内容来自博主Biranda的博客RNN Classifier实现一个根据名字判断所属国家的分类器，数据如下：在传统RNN网络结果中，o1...on是作为seq to seq的的序列输出，如下图：在本题中，由于无法得到序列性质的准确输出结果，而我们的问题范围也仅限于对序列的总体情况进行分类。因此可以将网络简化为如下图所示的情况：即序列依次经过嵌入层和RNN Cell后得到最终的隐藏状态hn，利用最终的隐.
2021-08-06 12:03:42
152
原创 Python 面向对象的相关语法
__init__（）首先，两个下划线开头的函数是声明该属性为私有，不能在类的外部被使用或访问。__init__（）支持带参数类的初始化，也可为声明该类的属性（类中的变量）。__init__函数（方法）的第一个参数必须为self，后续参数为自己定义。__init__()又被称为构造器（constructor）。例如：class studetn: # 定义一个类名为studetn def __init__(self,idx): # 定义初始化构造，这里使用init，
2021-08-05 13:00:32
107
原创 RNN - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 12RNN结构RNN Cellcell = torch.nn.RNNCell(input_size=input_size, hidden_size=hidden_size) hidden = cell(input, hidden)cell()中的input - input of shape (batch, input_size)cell()中的hidden - hidden of shape (batch, hidd
2021-08-04 15:38:08
229
原创 Advanced CNN - Inception Module from GoogleNet - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 11GoogleNet示意图可以看到其中有许多重复的部分，叫做Inception moduleInception Module1X1的卷积可以起到信息融合的作用，还可以降低计算量Inception Module 的实现拼接是按照通道的维度进行，最终的输出通道数为24+16+24+24=88整合之后的代码：class InceptionA(nn.Module): def __i...
2021-08-04 12:20:49
175
原创 Basic CNN - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 10import torchin_channels, out_channels= 5, 10 width, height = 100, 100 kernel_size = 3batch_size = 1input = torch.randn(batch_size, in_channels, width, he
2021-08-04 11:29:49
173
原创 多分类；Softmax Classifier；MINST - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 9交叉熵import torchy = torch.LongTensor([0])z = torch.Tensor([[0.2, 0.1, -0.1]]) criterion = torch.nn.CrossEntropyLoss()loss = criterion(z, y) print(loss)torch.Tensor默认是torch.FloatTensor是32位浮点类型数据，torch.LongTensor是64
2021-08-04 10:33:43
176
原创 Dataset和DataLoader - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 8术语：Epoch，Batch Size，IterationsEpoch：One forward pass and one backward pass of all the training examples.Batch size：The number of training examples in one forward backward pass.Iterations：Number of passes, each pass .
2021-08-03 16:52:36
483
原创 Logistic Regression - Pytorch
笔记来自课程《Pytorch深度学习实践》Lecture 6Linear Regression v.s. Logistic RegressionLinear Regression 代码：class LinearModel(torch.nn.Module): def __init__(self): super(LinearModel, self).__init__() self.linear = torch.nn.Linear(1, 1)
2021-08-03 16:00:30
394
原创 线性回归 Pytorch
笔记来自课程《PyTorch深度学习实践》Lecture5利用pytorch进行深度学习的基本思路/步骤：1. 准备数据集2. 定义模型（使用class，继承自nn.Module）3. 构建loss和optimizer（使用pytorch API）4. Training cycle（forward，backward，update）1. 准备数据集import torchx_data = torch.Tensor([[1.0], [2.0], [3.0]])y_dat
2021-08-03 15:45:05
338
原创 《数据挖掘 实用机器学习工具与技术》读书笔记 第1章-第3章
第一章 绪论机器学习的定义：机器学习是从大量的数据中自动或半自动地寻找模式的过程，而且这个模式必须是有用的。我们可以用同样的方法为学习建立一个可操作的定义：当事务以令其自身在将来表现更好为标准来改变其行为时，它学到了东西。学习意味着思考和目的。在机器学习领域，一个永恒的成功的研究过程是以压缩一个海量数据库开始的。数据挖掘的应用领域：web挖掘（PageRank算法）、包含评判的决策、图像筛选、负载预测、诊断、市场和销售等。第二章 输入：概念、实...
2020-11-12 15:05:19
284
原创 《数据库系统 数据库与数据仓库导论》读书笔记 Part3 数据仓库的实现与使用
多数情况下，数据仓库都被建模成关系数据库。目前市场上有很多OLAP/BI工具，例如Microstrategy、IBM的Cognos-acquired、SAP的Business Objects-acquired、Oracle的Hyperion-acquired、Microsoft等。OLAP/BI工具中最常用的三个基本功能：1. 切片和切块：从已经显示的结果里增加、替换或者消除制定的维度属性（或者是消除维度属性中的制定值）。2. 旋转：与切片和切块操作不同，旋转操作不改变原始查询..
2020-11-07 15:21:42
148
原创 《数据库系统 数据库与数据仓库导论》读书笔记 Part 3 数据仓库与数据集市建模
数据仓库与数据集市建模最常用的3种方法：· 规范化数据仓库 —— 通常指Inmon方法：思路就是将一个中心数据仓库建模为ER模型，因此可以映射为一个规范化的关系型数据库模型，规范化的关系型数据库则用作数据仓库的物理存储。· 维度建模数据仓库 —— Kimball方法：将数据仓库看作是交错的维度建模数据集市的集合（如维度模型星座）这些数据集市集成了源自操作性数据源中的对分析有用的数据。· 独立数据集市 —— 需要创建并维护多个ETL系统。 ...
2020-11-07 14:11:13
174
原创 《数据库系统 数据库与数据仓库导论》学习笔记 Part 2 分析型数据库
每个星型模式中都包含一个与日期信息相关的维度。在一个典型的设计良好的星形模式中，任何维度表中的记录数都小于事实表中的纪录数。创建代理主码 —— 可以处理所谓的缓慢变化的维度。事实表 = 将表连接到维度表的外码 + 分析主题相关的度量 + （其他非度量的属性）其他非度量的属性，有2种典型的：事物标识码和事物时间。· 事物标识码举例：哪些产品在相同的交易事务中被出售· 这种事物标识码的分析一般称为“购物篮数据分析”，也叫做“关联规则挖掘”/“关联性分组”· 让事实...
2020-11-07 13:56:13
227
原创 《数据库系统 数据库与数据仓库导论》读书笔记 Part 1 操作型数据库
分析型数据库 vs 操作型数据库 —— 分析信息需要在操作信息的基础上得到。1:M联系或1:1联系的属性都是不必要的，M：N中必要。实体完整性约束 —— PK 不为空。联系到关系的映射： 1:M联系的映射 —— M侧实体所映射得到的关系又一个FK，如EMPLOYEE表中有一个FK叫DeptID，指向DEPARTMENT表中的DeptID。关于参与方式，有2中，强制参与和可选参与，可选参与可以在后面加“（O）”。 M：N联系的映射 —— 映射为关系，这个关系有...
2020-11-07 10:11:03
270
原创 《高校数据仓库系统建设与应用》陈云 读书笔记 第一章 绪论
1. 数据仓库具有4个特点a. 面向主题性面向主题是数据仓库中组织数据的基本原则，数据仓库中的所有数据都是围绕某一主题组织、展开的。b. 集成性数据仓库的集成性是指根据决策分析的要求，将分散于各处的源数据进行抽取、筛选、清理、综合等集成工作，使所有数据能够统一、有机地整合在一起。c. 非易失性一般不对数据进行更新和删除操作，只进行查询。d. 时变性数据应随着时间的推移而发生变化。因为如果依据10年前的数据进行分析，那决策带来的后果十分可怕。也就是说数据仓库要不断生成主题的新快
2020-11-02 10:57:36
337
1
原创 java学习笔记 多线程练习题总结
一、判断题1. C和Java都是多线程的。 （ ）答案：错误 知识点：C 是单线程语言。2.如果线程死亡，它便不能运行。 （ ）答案：正确 知识点：线程死亡就意味着它不能运行。3.在 Java 中，高优先级的可运行线程会抢占低优先级线程。（ ）答案：正确 知识点：线程优先级的使用。4.程序开发者必须创建一个线程去管理内存的分配。（ ）答案：错误 知识点：Java 提供了一个系统线程来管理内存的分配。...
2020-10-22 11:36:53
1890
原创 java学习笔记 jdk5新增的创建线程方式 - Callable接口和线程池
* 创建线程的方式三：实现Callable接口。 --- JDK 5.0新增*** 如何理解实现Callable接口的方式创建多线程比实现Runnable接口创建多线程方式强大？* 1. call()可以有返回值的* 2. call()可以抛出异常，被外面的操作捕获，获取异常的信息* 3. Callable是支持泛型的需要借助FutureTask类，比如获取返回结果。Future接口可以对具体Runnable、Callable任务的执行结果进行取消、查询是 否完成、获取结果等。 .
2020-10-22 09:47:19
98
原创 java学习笔记 线程通信
* 线程通信的例子：使用两个线程打印 1-100。线程1, 线程2 交替打印** 涉及到的三个方法：* wait():一旦执行此方法，当前线程就进入阻塞状态，并释放同步监视器。* notify():一旦执行此方法，就会唤醒被wait的一个线程。如果有多个线程被wait，就唤醒优先级高的那个。* notifyAll():一旦执行此方法，就会唤醒所有被wait的线程。示例代码：class Number implements Runnable{ private int number.
2020-10-22 09:32:28
118
原创 java学习笔记 死锁与锁Lock
死锁的演示代码：class A { public synchronized void foo(B b) { //同步监视器：A类的对象：a System.out.println("当前线程名: " + Thread.currentThread().getName() + " 进入了A实例的foo方法"); // ①// try {// Thread.sleep(200);// } catch (InterruptedException ex) {// ex.print
2020-10-21 11:26:49
94
原创 java学习笔记 多线程 - 使用同步机制将单例模式中的懒汉式改写为线程安全的
问题描述：使用同步机制将单例模式中的懒汉式改写为线程安全的。class Bank{ private Bank(){} private static Bank instance = null; public static Bank getInstance(){ //方式一：效率稍差// synchronized (Bank.class) {// if(instance == null){////
2020-10-21 11:14:54
202
原创 java学习笔记 窗口售票问题 - 线程同步机制
问题描述：创建3个窗口卖票，票数为100张。使用继承Thread类的方式实现，存在线程安全问题，待解决：class Window extends Thread{ private static int ticket = 100; @Override public void run() { while(true){ if(ticket > 0){ System.out.println.
2020-10-21 11:09:35
406
2
转载 java学习笔记 2020/10/21 Thread类中的方法
Thread中的常用方法： 1. start():启动当前线程；调用当前线程的run() 2. run(): 通常需要重写Thread类中的此方法，将创建的线程要执行的操作声明在此方法中 3. currentThread():静态方法，返回执行当前代码的线程 4. getName():获取当前线程的名字 5. setName():设置当前线程的名字 6. yield():释放当前cpu的执行权 7. join():在线程a中调用线程b的join(),此时线程a就进入阻塞状态，直到线程b完全.
2020-10-21 10:30:09
86
原创 java学习笔记 2020/9/23 线程的创建与线程的生命周期
1. java多线程的创建方式方式一：继承于Thread类1）创建一个继承于Thread类的子类；2）重写Thread类中的run()方法；3）创建该子类的对象；4）通过这个对象去调用start()方法。方式二：实现Runnable接口1）创建一个实现Runnable接口的类2）这个类要去实现Runnable接口中的抽象方法run()3）创建这个实现类的对象4）将此对象作为参数传入Thread类的构造方法中，创建Thread类的对象5）通过Thread类的对
2020-09-28 16:58:57
89
原创 java学习笔记 2020/9/21
1. 成员内部类的特点：一方面，作为外部类的成员可以调用外部类的结构；可以用static修饰；可以被4种不同的权限修饰。另一方面，作为一个类：内部可以定义属性、方法、构造器等；可以被final修饰，表示不能被继承；可以被abstract修饰。2. 如何实例化成员内部类的对象？//静态的成员内部类：Person.Dog dog = new Person.Dog();dog.eat();//非静态的成员内部类：//Person.Bird bird = n
2020-09-22 16:05:51
80
原创 java学习笔记 2020/9/18
1. 代码块代码块是用 " { " 和 " } " 包含起来的，括号前可以用static修饰，作用为初始化类和对象。分类：静态代码块（前有static），非静态代码块静态代码块：内部可以有输出语句 随着类的加载而执行，且只执行一次 作用：初始化类的信息 静态代码块的执行要优先于非静态代码块 静态代码块之中只能调用静态的属性/方法非静态代码块：内部也可以有输出语句 随着对象的创建而执行，且每出现一个对象执行一次 作用：可以在创建对象时，对对象的属性进行初始化 内部可
2020-09-18 19:14:07
90
原创 java学习笔记 2020/9/17
1. JVM中的存储空间分配栈：局部变量；堆：new出来的结构、对象的非static属性；方法区：类的加载信息、常量池、静态区2. 匿名对象只能调用一次3.int[] arr = new int[] {1,2,3};char[] arr1 = new char {'a','b','c'};system.out.println(arr); //输出地址值system.out.println(arr1); //输出abc4. JavaBean指符合如下标准..
2020-09-18 10:12:56
124
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人