Joke

最近几天一直在找相关资料，坑太多，也可能我菜的成分更多一点吧！记录下来，以观后用；

一个demo，mindspore lite 部署在树莓派4B ubuntu22.04中，为后续操作开个门！

一个单片机部署手写数字识别的demo

LeNet手写数字识别

逻辑回归

原文：https://www.jb51.net/article/138245.htmimport torchimport torch.nn.functional as Ffrom collections import OrderedDict# Method 1 -----------------------------------------class Net1(torch.nn.Module): def __init__(self): super(Net1, self).__in

autograd模块

线性回归

实验中采用的卷及神经网络为AlexNet，可视化工具为visdom1.自定义数据集处理：import torchimport os, globimport random, csvfrom torch.utils.data import Dataset, DataLoaderfrom torchvision import transformsfrom PIL import Imageclass Dataload(Dataset): def __init__(self, root,

非线性回归

多元分类

目录一级目录二级目录三级目录1.数据类型**1.1 类型检查**1.2 数据类型转换1.3 Tensor与Numpy ndarray之间的转换1.4 CPU或GPU张量之间的转换1.5 其他：向量相关2.创建Tensor2.1 从Numpy创建Tensor2.2 从List创建Tensor2.3 指定维度创建Tensor2.4 随机初始化创建Tensor2.5 使用相同元素构建Tensor & 对角阵2.6 **指定参数的正态分布Tensor**:2.7 有序数列Tensor2.8 **set_d

以下代码任选其一测试代码一：import tensorflow as tfimport timeitwith tf.device('/cpu:0'): cpu_a = tf.random.normal([10000, 1000]) cpu_b = tf.random.normal([1000, 2000]) print(cpu_a.device, cpu_b.device)w...

神经网络与全连接四、神经网络与全连接4.1 数据加载4.1.1 `load_data()`和`from_tensor_slices()`4.1.2 `iter()`函数与`next()`函数4.2 全连接层4.3 输出方式4.3.1 sigmoid4.3.2 Softmax4.3.3 tanh4.4 误差计算4.4.1 MSE(均方误差)4.4.2 交叉熵 `-log(q_i)`四、神经网络与全连接4.1 数据加载4.1.1 load_data()和from_tensor_slices()keras

目录九、卷积神经网络9.1 什么是卷积9.2 卷积神经网络9.3 池化与采样九、卷积神经网络9.1 什么是卷积卷积的定义公式：卷积也可以理解为一种线性运算，图像处理中常见的mask运算都是卷积，广泛应用于图像滤波。 卷积关系最重要的一种情况，就是在信号与线性系统或数字信号处理中的卷积定理。在神经网络中卷积就是卷积核在输入数据上“滑动”求积再求和具体详细解释参考：别怕，"卷积"其实很简单如何通俗易懂地解释卷积？9.2 卷积神经网络输入数据为多层（通道）的时候，卷积核的层数自

TensorFlow 2.0 入门实战笔记（持续更新）一、初见Tensorflow1.1 2015年之前的深度学习框架：1.2 深度学习框架发展1.3 2015年之后TF版本：1.4 安装TF1.5 Pycharm关闭红色字体日志输出一、初见Tensorflow1.1 2015年之前的深度学习框架：Scikit-learnMachine learning, No GPUCaffe2013, 第一个面向深度学习的框架No auto-grad, C++Keraswrapper

手写数字识别初体验# 01手写数字识别初体验import os# ---------------准备部分--------------------------------------------------------# 将日志等级设置为2，减少无关日志输出os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'import tensorflow as tffrom tensorflow import kerasfrom tensorflow.keras imp

目录五、梯度计算5.1 自动求梯度5.2 激活函数及其梯度5.2.1 sigmoid5.2.2 tanh5.2.3 relu5.3 反向传播5.3.1 单层输出感知机5.3.2 多层输出感知机5.3.3 链式法则5.3.4 多层感知机梯度5.4 损失函数优化实战5.5 手写数字问题实战（层）五、梯度计算导数 => 偏微分 某个坐标方向的导数=>梯度所有坐标方向导数的集合5.1 自动求梯度官网API:tf.GradientTapewith tf.GradientTape(persiste

目录六、 Tensorboard可视化6.1 数据可视化6.2 图片可视化六、 Tensorboard可视化6.1 数据可视化tensorboard --logdir logsStep1:创建日志写入地址，文件夹名为logscurrent_time = datetime.datetime.now().strftime("%Y%m%d-%H%M%S")log_dir = 'logs/' + current_timesummary_writer = tf.summary.create_file_

Tensorflow高阶操作三、Tensorflow高阶操作3.1 合并与分割3.1.1 tf.concat([a, b], axis) 拼接3.1.2 tf.stack([a, b], axis) 堆叠3.1.3 res=tf.unstack(c, axis) 打散3.1.4 tf.split(c, axis, num_or_size_splits) 分割3.2 数据统计3.3 张量排序3.3.1 sort 和 argsort3.3.2 top_k函数3.3.3 top_k预测准确度3.4 填充与复制

本笔记是基于 龙良曲 老师的Tensorflow实战教程的记录，只是为了提高自己的理解和回顾。

二、Tensorflow基础操作二、Tensorflow基础操作2.1 数据类型2.1.1 数据载体2.1.2 基本数据类型2.1.3 数值精度2.1.4 数据基本属性2.1.4 Array 和 Tensor的不同之处：2.1.5 Array 和 Tensor的转换：2.1.6 可训练数据类型：2.2 创建Tensor2.3 索引与切片2.3.1 索引2.3.2 一般切片2.3.3 Selective Indexing2.4 维度变换2.4.1 图片的存储View2.4.2 tf.transpose 交换图

目录八、过拟合及其处理8.1 过拟合与欠拟合8.2 交叉验证8.3 正则化（Regularization）8.4 动量与学习率8.4.1 动量梯度下降8.4.2 学习率调整8.5 其他训练Tricks8.5.1 Early Stopping8.5.2 Dropout8.5.3 【易混淆解释】Stochastic not random!八、过拟合及其处理8.1 过拟合与欠拟合fitting:拟合，就是说这个曲线能不能很好的描述这个样本，有比较好的泛化能力过拟合（OverFititing）：太过贴近

目录七、Keras高层接口7.1 Metrics7.2 Compile & Fit7.2.1 `compile` 配置用于训练的模型7.2.2 `fit` 喂入训练数据7.2.3 `evaluate`返回测试模式下模型的损失值和指标值7.2.4 `predict`生成输入样本的输出预测7.2.5 常规工作流实战7.3 自定义网络7.4 模型的保存与加载七、Keras高层接口7.1 Metrics参考：Keras高层API之Metrics评估函数用于评估当前训练模型的性能。当模型编译后，评价

在实践中，由于数据集不够大，很少有人从头开始训练网络。常见的做法是使用预训练的网络（例如在ImageNet上训练的分类1000类的网络）来重新fine-tuning（也叫微调），或者当做特征提取器。以下是常见的两类迁移学习场景：1 卷积网络当做特征提取器。使用在ImageNet上预训练的网络，去掉最后的全连接层，剩余部分当做特征提取器（例如AlexNet在最后分类器前，是4096维的特征向量）。这样提取的特征叫做CNN codes。得到这样的特征后，可以使用线性分类器（Liner SVM、Softmax

加载数据，读取CSV文件import pandas as pdimport osHOUSING_PATH = 'datasets/housing'def load_housing_data(housing_path=HOUSING_PATH): csv_path = os.path.join(housing_path, 'housing.csv') return pd.read_csv(csv_path)housing = load_housing_data(HOUSI

解决pytorch本地导入mnist数据集报错问题

Gitee:https://gitee.com/Shine_Zhang/machine_learning_practices参考：https://zhuanlan.zhihu.com/p/88797654《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》import pandas as pdimport osimport matplotlib.pyplot as pltimport numpy as npfrom zlib import crc32

Gitee:https://gitee.com/Shine_Zhang/machine_learning_practices参考：https://zhuanlan.zhihu.com/p/88797654《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》import pandas as pdimport osimport matplotlib.pyplot as pltimport numpy as npfrom zlib import crc32

Gitee:https://gitee.com/Shine_Zhang/machine_learning_practices参考：https://zhuanlan.zhihu.com/p/88797654《机器学习实战：基于Scikit-Learn、Keras和TensorFlow第2版》import pandas as pdimport osimport matplotlib.pyplot as pltimport numpy as npfrom zlib import crc32

自定义数据处理部分：import torch.utils.data as dataimport os, globimport random, csvimport PIL.Image as Imagefrom torchvision import transformsclass CrackDataset(data.Dataset): # 创建CrackDataset类的实例时，就是在调用init初始化 def __init__(self, root, modelset, tra

理论理解参考：【语义分割】评价指标：PA、CPA、MPA、IoU、MIoU详细总结和代码实现（零基础从入门到精通系列！）"""refer to https://github.com/jfzhang95/pytorch-deeplab-xception/blob/master/utils/metrics.py"""import numpy as npimport cv2__all__ = ['SegmentationMetric']"""confusionMetric # 注意：此处横

论文中英对照翻译参考：https://www.machunjie.com/translate/695.html一、目标检测的一般性结构论文中首先总结了目标检测的一般性结构：输入部分：图片，一批图片，预处理过的图片主干网： GPU平台：VGG、ResNet…等，CPU平台：SqueezeNet , MobileNet 等颈部： 颈部由几个自下而上的路径和几个自上而下的路径组成。配备此机制的网络包括特征金字塔网络 （FPN）、路径聚合网络 （PAN）、BiFPN [77]和 NAS-FPN 。头部

参考：(全)最好的目标检测原理与实践课程–【176:42】部分讲解labelImg目录： 计算机视觉应用实战-网易云课堂YOLOv5模型训练–【01:12】部分讲解labelImglabelImg下载地址-windows版1.解压启动接下来就可以打开exe文件labelImg.exe需要放在纯英文的路径下才能保证完美运行！2.图像文件夹存放图片11.jpg 原图像文件predefined_classes.txt 提供的默认的class，如果不需要这些类型的话，可以将其删除

YOLO(You Only Look Once)

目标检测

参考视频： (全)最好的目标检测原理与实践课程参考目录： 计算机视觉应用实战-网易云课堂参考文章：一文读懂目标检测：R-CNN、Fast R-CNN、Faster R-CNN、YOLO、SSD详述目标检测最常用的三个模型：Faster R-CNN、SSD和YOLO

【1】1×1卷积的作用【2】空洞卷积【3】转置卷积【4】目标检测简单方法（传统）1.滑动窗口法+传统机器学习分类器**2.滑动窗口法+卷积神经网络CNN**【5】加快检测速度：全卷积神经网络FCN（Fully onvolutional Networks）【6】 交并比和mAP介绍【7】mAP的具体计算方法【8】非极大值抑制NMS(Non-max suppression)

理论：代码：# 线性回归问题# y = w * x + bimport numpy as np# 定义损失函数def loss_function(w, b, points): loss = 0 for i in range(0, len(points)): x = points[i, 0] y = points[i, 1] ...

版本：Tensordlow2.1运行环境：Google Colaboratoryimport osos.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'import keras_applicationsimport tensorflow as tffrom tensorflow.keras import datasets, Sequential, layersfrom tensorflow.keras.layers import Conv2D, MaxPool2D.