bohu83的博客

概述从 本节开始学习RNN相关内容。神经网络可以当做是能够拟合任意函数的黑盒子，将神经网络模型训练好之后，对于input 输入x ，经过隐层后，输出层会得到y. 为啥还需要RNN网络呢？神经网络都只能单独的取处理一个个的输入，前一个输入和后一个输入是完全没有关系的。但是，某些任务需要能够更好的处理序列的信息，即前面的输入和后面的输入是有关系的。序列：我们 可以理解不同的时刻t1,t2,...tn比如当我们在理解一句话意思时，孤立的理解这句话的每个词是不够的，我们需要处理这些词连接起来的整

概述本文老师补充介绍了resnet的论文。给出了一些解读先整理下。残差网络的由来论文《Deep Residual Learning for Image Recognition》，通常与浅层网络相比，更深的网络的表现不应该更差，但是 56层的神经网络表现明显要比20层的差，注意 截图是错误率的曲线为什么网络需要多层？因为CNN能够提取low/mid/high-level的特征，网络的层数越多，意味着能够提取到不同level的特征越丰富。并且，越深的网络提取的特征越抽象，越具有语义信息。

基于resnet训练flower图像分类模型（p31-p37）上一篇，我改成别的笔记本跑完了。按照老师的步骤，进行加载模型及测试数据预测。我们之前是冻住了，只训练一层，也可以全部训练，我的显卡太低跑时间太长了，这部分没跑。加载训练好的模型model_ft, input_size = initialize_model(model_name, 102, feature_extract, use_pretrained=True)# GPU模式model_ft = model_ft.to(dev

概述上一篇基于resnet训练flower图像分类模型（p31-p37），在我的mac 上实在 跑不动了。今天折腾了一天。各种坑基本上踩了一遍，分享给大家希望有人看了能避开我的坑。我是笔记本老款的MX250系列。就是相当于亮屏的卡，不是1050哪组真正意义的显卡。这个版本很重要。我开始不知道，随便找了驱动版本，对应是cuda 11.2 的.结果很尴尬，pytorch 官网上有11.1 ，11.3的，就是没有11.2的。虽然有人用Anaconda 安装了11.2，但是我不喜欢这..

概述 本文属于跟着b站学习pytorch笔记系列。网上很多大佬 关于renet模型图像识别的分类文章很多，但是图像部分通常就是一笔带过，给个链接。还是看了知乎的文章从头准备了数据集。一 数据集准备该数据集由102类产自英国的花卉组成。每类由40-258张图片组成Visual Geometry Group - University of Oxford就是红圈的1，4，5部分。 1 是8000多张图片压缩包，4，5 可以用wget下载后拷到 工程文件夹...

一 概述本节课开始学习torchvision，老师 说不会吧每个点展开讲一遍，穿插在 例子中介绍。下面是官网介绍 ：torchvision — Torchvision 0.11.0 documentationThis library is part of thePyTorchproject. PyTorch is an open source machine learning framework.Thetorchvisionpackage consists of popular da...

卷积神经网络与 传统神经 网络的训练模块基本一致，网络 模型差异较大。一 读取数据# 导包import torchimport torch.nn as nnimport torch.optim as optimimport torch.nn.functional as Ffrom torchvision import datasets,transformsimport matplotlib.pyplot as pltimport numpy as np#读取 数据# 定义超参数

经典神经网络介绍

本节是理论介绍，挑一部分老师讲关键的贴出来，穿插我自己的理解的整理下，因为每个人知识背景不同，老师不能吧所有的知识点背景都事无巨细讲一遍，有些一带而过我自己不明白的，我会网上查一下补充一下，所以写的不一定对，请大家指正。概述卷积神经网络（Convolutional Neural Network）在 CV 领域, 检测任务领域, 分类与检索领域, 图片重构领域, 医学任务领域, 无人驾驶领域, 人脸识别领域等等都有广泛的应用.近几年发展迅速，是计算机视觉领域的标配，指标不贴了。卷积神经...

一概述上一节学习了逻辑回归，在这一节里, 我们将使用 PyTorch 来解决分类任务.关于测试数据集MNIST:MNIST 包含 0~9 的手写数字, 共有 60000 个训练集和 10000 个测试集. 数据的格式为单通道 28*28 的灰度图.二 读取数据from pathlib import Pathimport requestsfrom matplotlib import pyplotimport numpy as npimport pickleimport gzi

数据准备工作跟之前的 一样， 主要是构建 神经网络 模块 变得更简化了，使用 了torch.nn模块。包括构建模型，使用torch.nn.MseLoss作为损失值, 使用torch.optim.Adam构造优化器 。完整 的代码 如下：import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport torchimport torch.optim as optimimport warningsw

本节课跟着老师做demo导包import numpy as npimport pandas as pdimport matplotlib.pyplot as pltimport torchimport torch.optim as optimimport warningswarnings.filterwarnings('ignore')读取数据# 可视化图形print(features.head(5))说明：前面是时间temp_2:前天的最高气温 temp_1

这一节快速通过，熟悉一下tensor的格式scalar:通常就是一个 数值vector:深度学习中通常表示特征（向量：nlp里面有把词转换为向量表示）matrix矩阵，一般是 多维 的这里 老师列举的是一些矩阵的乘法，没看懂matmul怎么计算的。看了下介绍，果然复杂。各种情况。待慢慢学习对于维度的理解：实际 处理业务都是高维的。HUBHub 是一个简易 API 和工作流程.用老师的话介绍就是“一行代码调模型”https://g...

pytorch的第一个demo. 跟着b站手动敲代码

框架对比训练过程tensor: 张量这个词物理上数学上有一堆定义。可以 看 知乎上大佬们的解释，我没看懂。先 按照 老师说的 在深度学习里，是一个多维数组来理解，看图 更直观些 。datatype: 存放的数据类型，浮点 、长整型tensor的属性：rank：number of dimensions shape: number of rows and columns type: data type of tensor's elementstensor的...

如果网络化 ，可以所使用 官网的 ：pip3 install torch torchvision torchaudio我的网络联通宽带还行吧，就是 下不了。方案1. 可以去官网 下载文件：各版本pytorch离线下载网址https://download.pytorch.org/whl/torch_stable.html下载 后cd 命令定位到下载的目录，通过 pip install XX.whl 安装。还是 慢，我使用浏览器直接下载预计要1小时。方案2...

if 前面整理了，不支持switch,对应只能多个elif。对于循环类型，Python 提供了 for 循环和 while 循环（在 Python 中没有 do..while 循环）对于循环控制，Python提供了break，continue，对比Java 多了pass.单纯为了保证语法校验通过的。i = 1while i < 10: i += 1 if i % 2 > 0: # 非双数时跳过输出 continue print(i) #

读取键盘输入输入input，和raw_input([prompt])函数基本类似，但是 input 可以接收一个Python表达式作为输入，并将运算结果返回user = input("用户：").strip()if(user == '包叔'): print(user +' 是自媒体大佬，')else: print("用户"+user )上面是一次输入，要想持续输入 ：while True: user = input("用户：").strip() ..

一 序 本文属于贪心NLP学习笔记系列。老师先抛出一个问题：当数据是线性可分的时候，参数w为什么会趋向无穷大？

歇了好久，还是继续吧。 Python 是动态类型的：s = 'hi's = 10print(s)输出 10 。不java 那种强类型的。 python中统一都是引用传递，同时要注意类型是属于对象的，而不是变量。而对象有两种,“可更改”（mutable）与“不可更改”（immutable）对象。在python中，strings, tuples, 和numbers是不可更改的对象，而list,dict等则是可以修改的对象.不可变的对象：a = ...

一 序 继续pandas学习。推荐下pandas的官网：https://www.pypandas.cn/docs/二 层次化索引 层次化索引是pandas的一项比较重要的功能，它能够让你在一个轴上拥有多个索引级别。另一种说法是它能以低维度的形式处理高维度的数据。三pandas文本格式数据处理read_csv:从文件、url、文件型对象加载带分隔符的数据，默认分隔符为逗号。read_table:从文件、url、文件型对象加载带分隔符的数据，默认分隔符为'\t'。...

一 序 本篇开始学习pandas. pandas是基于NumPy的一种数据分析工具，在机器学习任务中，我们首先需要对数据进行清洗和编辑等工作，pandas库大大简化了我们的工作量，熟练并掌握pandas常规用法是正确构建机器学习模型的第一步。二 安装如何安装pandas，我没有安装Anaconda，用pip来安装：pip3 install pandas导入import pandas as pdpandas包含两种数据类型：series和dataframe。series是..

一 序继续学习numpy基本操作。二 算术函数 NumPy 算术函数包含简单的加减乘除:add()，subtract()，multiply()和divide()。需要注意的是数组必须具有相同的形状或符合数组广播规则。numpy.reciprocal()numpy.reciprocal() 函数返回参数逐元素的倒数。如1/4倒数为4/1。numpy.power()numpy.power() 函数将第一个输入数组中的元素作为底数，计算它与第二个输入数组中相应...

一 序 本文继续numpy学习。二 矢量化运算numpy的数组通常在不用编写循环的情况下进行批量运算。一维数组二维数组其他操作：加减乘除，以乘法做例子NumPy 广播(Broadcast)广播(Broadcast)是 numpy 对不同形状(shape)的数组进行数值计算的方式， 对数组的算术运算通常在相应的元素上进行。如果两个数组 a 和 b 形状相同，即满足a.shape == b.shape，那么 a*b 的结果就是 a 与 b 数组对应...

一序 Python常用的数据处理框架，numpy 级pandas.先从numpy开始学习。NumPy(Numerical Python) 是 Python 语言的一个扩展程序库，支持大量的维度数组与矩阵运算，此外也针对数组运算提供大量的数学函数库。NumPy 是一个运行速度非常快的数学库，主要用于数组计算，包含：一个强大的N维数组对象 ndarray 广播功能函数 整合 C/C++/Fortran 代码的工具 线性代数、傅里叶变换、随机数生成等功能二numpy 应用Nu...

一 序 本文继续Python学习。二 闭包 如果在一个函数内部，嵌套了函数，这个内部函数对（非全局作用域）外部作用域的变量进行引用，那么这个内部函数称为闭包。简单理解就是：返回值是函数的函数。看个例子：注意，不是返回的6，6，6.是应为每次print的时候并不是从foo从哪个头开始运行，而从之前的p接着运行。zhangsan就相当于do,可以传参数what.三 装饰器接着上面的闭包，先来看个例子，就是把函数当做参数传给另一个函数。换个写法，用@来...

一 序 来自runoob的基础看了一大半，剩下的用的再查，做了一些小测验https://www.runoob.com/quiz/python-quiz.html剩下的内容，可以接着贪心的NLP内容学习了。二lambda表达式lambda_expr ::= "lambda" [parameter_list] ":" expressionlambda_expr_nocond ::= "lambda" [parameter_list] ":" expression_..

一 序本文继续Python入门基础学习，内容来自：https://www.runoob.com/python3/python3-stdlib.html二操作系统接口os模块提供了不少与操作系统相关联的函数。>>> import os>>> os.getcwd() # 返回当前的工作目录'/Users/benmu/jupyter'>>> os.chdir('/server/accesslogs') # 修改当前的...

一序 本篇继续Python入门，学习Python的命名空间和作用域。来源：https://www.runoob.com/python3/python3-namespace-scope.html二命名空间命名空间提供了在项目中避免名字冲突的一种方法。各个命名空间是独立的，没有任何关系的，所以一个命名空间中不能有重名，但不同的命名空间是可以重名而没有任何影响。一般有三种命名空间：内置名称（built-in names）， Python 语言内置的名称，比如函数名 abs、ch...

一 序 昨天看了NLP的逻辑回归的目标函数，满满的是公式推导，做梦还在计算f(w)=.想了想，这得从中学的数学开始学起啊。看点Python换换脑子，内容来自，https://www.runoob.com/python3/python3-class.html二面向对象简介类(Class):用来描述具有相同的属性和方法的对象的集合。它定义了该集合中每个对象所共有的属性和方法。对象是类的实例。 方法：类中定义的函数。 类变量：类变量在整个实例化的对象中是公用的。类变量定义在类中...

一序本文属于Python学习笔记系列，内容来自： https://www.runoob.com/python3/python3-inputoutput.html跳过：数据结构（前面简单介绍过列表、集合、字典）与模块（主要是引包）二 输出输出格式美化Python两种输出值的方式: 表达式语句和 print() 函数。第三种方式是使用文件对象的 write() 方法，标准输出文件可以用 sys.stdout 引用。如果你希望输出的形式更加多样，可以使用 str.format()...

一 序 本文属于Python入门学习系列。二 函数函数是组织好的，可重复使用的，用来实现单一，或相关联功能的代码段。定义一个函数你可以定义一个由自己想要功能的函数，以下是简单的规则：函数代码块以def关键词开头，后接函数标识符名称和圆括号()。 任何传入参数和自变量必须放在圆括号中间，圆括号之间可以用于定义参数。 函数的第一行语句可以选择性地使用文档字符串—用于存放函数说明。 函数内容以冒号:起始，并且缩进。 return [表达式]结束函数，选择性地返回一...

一 序 本文属于Python入门学习笔记，学习内容来自：https://www.runoob.com/python3/python3-iterator-generator.html二迭代器迭代是Python最强大的功能之一，是访问集合元素的一种方式。迭代器是一个可以记住遍历的位置的对象。迭代器对象从集合的第一个元素开始访问，直到所有的元素被访问完结束。迭代器只能往前不会后退。迭代器有两个基本的方法：iter()和next()。字符串，列表或元组对象都可用于创建迭代器：...

一 序 本篇继续Python入门。内容来自：https://www.runoob.com/python3/python3-conditional-statements.html二 条件控制Python 条件语句是通过一条或多条语句的执行结果（True 或者 False）来决定执行的代码块。这个跟Java类似，就不多说了。主要是语法层面的区别：Python 中用elif代替了else if，所以if语句的关键字为：if – elif – else。注意：1、每个条件后面要...

本文继续学习Python入门，https://www.runoob.com/python3/python3-step1.html学习了一些 Python3 的基本语法知识，下面我们尝试来写一个斐波纳契数列。习惯性用递归，参照demo，容易犯错的点，没有大括号控制段落，改为：再看看教程的写法，感觉就是太简洁了，其中代码a, b = b, a+b的计算方式为先计算右边表达式，然后同时赋值给左边，等价于：n=bm=a+ba=nb=m右边的表达式会在赋值变动之前执行。..

一 序本文继续Python入门学习，内容来自：https://www.runoob.com/python3/python3-string.html字符串是 Python 中最常用的数据类型。我们可以使用引号('或")来创建字符串。var1 = 'Hello World!'Python 访问字符串中的值Python 不支持单字符类型，单字符在 Python 中也是作为一个字符串使用。Python 访问子字符串，可以使用方括号[]来截取字符串。在需要在字符中使用特殊...

一序 继续Python入门学习，内容来自：https://www.runoob.com/python3/python3-number.html这个跟Java类似，除了函数需要时查阅下外，可以快速略过。Python3 数字(Number)Python 数字数据类型用于存储数值。数据类型是不允许改变的,这就意味着如果改变数字数据类型的值，将重新分配内存空间。Python 支持三种不同的数值类型：整型(Int)- 通常被称为是整型或整数，是正或负整数，不带小数点。Python3 整..

一 序本文继续Python入门学习，内容来自，https://www.runoob.com/python3/python3-interpreter.html二 交互式编程我们可以在命令提示符中输入"Python"命令来启动Python解释器：当然方便的还是Jupiter了。代码+文档一起混着。三脚本式编程 将如下代码拷贝至hello.py文件中：print ("Hello, Python!");通过以下命令执行该脚本：python3 hello.py...

一序继续入门学习。内容来自：https://www.runoob.com/python3/python3-data-type.html二 python3 基础数据类型Python 中的变量不需要声明。每个变量在使用前都必须赋值，变量赋值以后该变量才会被创建。在 Python 中，变量就是变量，它没有类型，我们所说的"类型"是变量所指的内存中对象的类型。等号（=）用来给变量赋值。等号（=）运算符左边是一个变量名,等号（=）运算符右边是存储在变量中的值。例如：多个变量赋值P

一 序因为好不容易，终于安装好jupyter了，可是老师把默认你有Python基础了，上来就讲高级功能：lambda表达式。看不懂啊，还是先自己学习下基础吧。就随手从网上找个入门的语法开始看看吧。https://www.runoob.com/python3/python3-tutorial.html二 基础语法以下内容均来自runoob网站的介绍。挑几个自己觉得注意的。标识符第一个字符必须是字母表中字母或下划线_。 标识符的其他的部分由字母、数字和下划线组成。 标识..