颠沛的小丸子

原创 Keras 保存model到指定文件夹和加载load_model指定文件夹中的文件（踩坑）

我们一般保存模型和加载模型都是通过下面这段代码：from keras.models import load_model model.save('model.h5')from keras.models import load_modelmodel = load_model('model.h5') 而此时保存的路径都是模型训练的路径，当我们在写项目的过程中，需要...

原创 Python时间序列分析

引入数据包from __future__ import print_functionimport pandas as pdimport matplotlib.pyplot as pltimport statsmodels.api as smfrom statsmodels.graphics.api import qqplotfrom statsmodels.graphics.ts...

原创 Batch_size对于深度学习训练过程的影响？

batch_size的大小决定了深度学习训练过程中完成每个epoch所需的时间和每个迭代(epoch)之间梯度的平滑程度。对于每个epoch所需时间的解释：对于一个大小为N的训练集，如果每个epoch中mini-batch的采样方式采用最常规的(N个样本每个样本都采样一次)方式，设mini-batch大小为b，那么每个epoch所需要的迭代次数为 N/b ，因此完成每个e...

原创 LeetCode:java转圈打印矩阵

public static void main(String[] args) { int [] [] arr = {{1,2,3},{4,5,6}}; sprialOreder(arr); } public static void sprialOreder(int[] [] matrix) { int tR = 0; ...

原创 时间序列预测：SVR用于时间序列预测代码+模型保存+模型加载+网格搜索+交叉验证

本文关于SVR时间序列的预测，详细步骤如下：1.数据读取2.数据集的划分（采用滑动窗口重叠切片）3.训练数据集掷乱4.SVR参数设置（网格搜索+交叉验证）5.SVR模型训练+模型保存6.SVR模型加载+预测import xlrdimport matplotlib.pyplot as pltdef read_20180829(): fname = "20...

原创 Java数据结构和算法：冒泡、选择、插入排序算法

冒泡排序：规则就是前后比较，找到最大的放在最右端，然后依次循环比较。。。。其中需要两个循环来完成该任务，外层循环标记比较的趟数，内层循环标识每一趟需要交换元素的下标。关键需要设置一个标识位，用来标识在某一趟中，是否有交换，如果没有交换，说明已经排好序了，就可以直接停止遍历循环比较了。public class BubbleSort { public static int[] sort...

原创 数据结构：数组的实现+增删改查功能

package 数据结构;import java.util.Arrays;import java.util.Comparator;import static java.util.Arrays.*;public class MyArray<T> { private T[] array; private int size; private int ...

原创 MyBatis1:JDBC（为什么要学习mybatis）

1.什么是Mybatis？Mybatis是apache的一个开源项目iBatis，2010年这个项目由apache software foundation迁移到了google code，并改名为Mybatis。iBatis是一个基于Java的持久层框架。iBatis提供的持久层框架包括SQL Maps 和Data Access Objects(DAO)Mybat...

原创 单变量输入的ConvLSTM编解码器模型。

[n, 2, 1, 7, 1]CNN-LSTM方法的进一步扩展是对CNN的卷积(例如CNN如何读取输入序列数据)执行LSTM的每个时间步骤。这种组合称为卷积LSTM，简称ConvLSTM，就像cn -LSTM也用于时空数据一样。与为了计算内部状态和状态转换而直接读入数据的LSTM不同，与解释CNN模型输出的cn -LSTM不同，ConvLSTM使用卷积作为直接读入LSTM单元本身的输入的一...

原创 具有单变量输入的CNN-LSTM编解码器模型

卷积神经网络(CNN)可以作为编解码器结构中的编码器。CNN不直接支持序列输入;相反，一维CNN能够读取序列输入并自动学习显著特征。然后可以按照正常情况由LSTM解码器解释这些。我们将使用CNN和LSTM的混合模型称为cn -LSTM模型，在本例中，我们将在一个编解码器体系结构中同时使用它们。CNN希望输入的数据具有与LSTM模型相同的3D结构，尽管多个特性被读取为不同的通道，最终...

原创 Encoder-Decoder LSTM模型对家庭用电进行多步时间序列预测(多变量输入)

在本节中，我们将更新上一节中开发的编码器-解码器LSTM，使用8个时间序列变量中的每一个来预测下一个标准周的每日总功耗。我们将通过将每个一维时间序列作为单独的输入序列提供给模型来实现这一点。LSTM将依次创建每个输入序列的内部表示，这些输入序列将由解码器一起解释。使用多元输入有助于解决这样的问题，即输出序列是来自多个不同特征的先前时间步长的某个函数，而不只是(或包括)预测的特征。目前还不清楚在电力...

原创 Encoder-Decoder LSTM Model模型对家庭用电进行多步时间序列预测

在本节中，我们可以更新普通的LSTM以使用编解码器模型。这意味着模型不会直接输出向量序列。相反，该模型将由两个子模型组成，用于读取和编码输入序列的编码器，以及读取编码的输入序列并对输出序列中的每个元素进行一步预测的解码器。这种差别很细微，因为实际上这两种方法都可以预测序列输出。重要的不同之处在于，解码器使用了LSTM模型，这使得解码器既可以知道前一天在序列中预测了什么，又可以在输出序列时积累内部状...

原创 LSTM模型对家庭用电进行多步时间序列预测

随着智能电表的兴起和太阳能电池板等发电技术的广泛应用，有大量可用的用电数据。这些数据代表了一系列与电力相关的多元时间序列，进而可以用来建模甚至预测未来的用电量。与其他机器学习算法不同，长短时记忆递归神经网络能够从序列数据中自动学习特征，支持多变量数据，并能输出可用于多步预测的变长序列。在本教程中，您将了解如何开发长期短期记忆递归神经网络，用于多步骤时间序列预测家庭用电量。完成本教程...

原创 java剑指Offer :二维数组中查找

import java.util.Arrays;public class findInArray { public static void main(String[] args) { int[][] arr={{1,2},{3,4}}; int[] find = Find1(arr, 2); System.out.println(Arrays...

原创 java:二分查找

public static int BinarySearch(int [] arr,int value) { if(arr.length==0){ return -1; } int low = 0; int hight=arr.length-1; int mid=arr.length/2;...

原创 经典网络结构分析：卷积神经网络的现代雏形 ---LeNet

卷积神经网络是受到视觉神经系统的神经机制启发而提出的模型，其核心思想在于局部感受野和权值共享。98年lecun等人将卷积层与池化层相结合，建立卷积网络的现代雏形---LeNet.曾被应用于手写数字识别 。原始的LeNet主要特点是将卷积层和下采样层相结合作为网络 的基本结构，其包含3个卷积层和2个下采样层。在LeNet的原始模型中，输入是 一个矩阵 或图像，大小为32×32.如...

原创 股票预测代码：使用LSTM预测

# IMPORTING IMPORTANT LIBRARIESimport pandas as pdimport matplotlib.pyplot as pltimport numpy as np import mathfrom sklearn.preprocessing import MinMaxScalerfrom sklearn.metrics import mean_squ...

原创 keras： Early Stopping与CheckPoint代码使用

from keras.callbacks import EarlyStoppingearly_stopping = EarlyStopping(monitor='val_loss',patience=100) optimizer = keras.optimizers.Adam()model.compile(loss='categorical_crossentropy', ...

原创 python:画图线条颜色、形状设置大全

cnames = { 'aliceblue': '#F0F8FF', 'antiquewhite': '#FAEBD7', 'aqua': '#00FFFF', 'aquamarine': '#7FFFD4', 'azure': '#F0FFFF', 'beige': '#F5F5DC', 'bisque': '#FFE4C4', 'blac...

原创 踩坑：Python找不到指定路径的文件 最全解决方法

数据集为ucr时间序列数据集其中Adiac文件夹中的文件可以通过下面的代码打开：其他文件格式与Adiac相同，且在同一个目录文件下，跑其他的文件，会出现某某文件不存在的问题，网上找了各种解决方法都尝试了，依然还是会报文件找不到错误，最后，重新启动spyder编辑器，代码又可以跑了，在想原因，可能缓冲导致的错误。其中对于文件找不到的方法做以总结：1.文件是否真...

原创 python: for in zip() 并行遍历

list_1 = [1, 2, 3, 4]list_2 = ['a', 'b', 'c'] for x, y in zip(list_1, list_2): print(x, y)

原创 tensorflow: tf.stack和tf.unstack的区别，实例解释

将两个N维张量列表沿着axis轴组合成一个n+1维的张量，例如下面tensor(2,3)与tensor1(2,3),一个y(2,2,3)import tensorflow as tftensor=[[1,2,3],[4,5,6]]tensor2=[[10,20,30],[40,50,60]]y=tf.stack([tensor,tensor2])y2=tf.stack([tenso...

原创 Thensorflow: 双向lstm用于情感分类源码解析

import tflearnfrom tflearn.data_utils import to_categorical, pad_sequencesfrom tflearn.datasets import imdbfrom tflearn.layers.core import input_data, dropout, fully_connectedfrom tflearn.layers....

原创 方案二：踩坑 获取网络中间层作为model需要用到将array类型的数据转化成tensor数据类型的方法

原创 方案二：踩坑，'numpy.float64' object is not iterable

predict_xlist是一个list;lstm_predict1是array类型，其中shape(128,1)，而此处只去一个元素添加到predict_xlist中，因此使用extend方法会报错。list有多中迭代添加方法，其中extend和append是最常用的，区别在于：extend添加的是一个list，而append是任何数据类型。此处只是一个value，则应该使用app...

原创 不平衡数据对于卷积神经网络的影响

本文是基于 《卷积神经网络中类不平衡问题的系统研究》此篇论文展开说明，大部分来源于该篇论文。1.铺垫点背景知识 卷积神经网络(CNNs)在许多机器学习应用领域中越来越重要，目前正为计算机视觉领域的发展做出贡献，包括目标检测、图像分类和分割等任务。它们也广泛应用于自然语言处理或语音识别中，取代或改进了经典的机器学习模型。CNNs将自动特征提取和判别分类器集成在一个模型中，这是CNNs与...

原创 深度学习面试1：调参绝杀技

深度学习者若调得一手好参，便可行走江湖，曾经有这样一则新闻，天桥摆摊调参一次50元，想着都很美，毕竟比贴手机膜赚的多的多，那么想要在行业混，首先会调得一手好参，什么是要调的参数，如何调参？如何评估调的参数好呢？。。。。。什么是要调的参数？我想你第一反映学习率，毕竟学习率的大小决定你选择的模型是否到达局部最优，如果设置大了，模型可能越过最优值，或者在某个区间反复循环，如果设置小了，模型可能在...

原创 Tensorflow:使用高级接口TFLearn用于数据预测

import numpy as npimport tensorflow as tfimport matplotlib.pyplot as pltlearn=tf.contrib.learnHIDDEN_SIZE = 30NUM_LAYERS = 2 TIMESTEPS = 10TRAINING_STEPS = 10000BATCH_SIZE = 32TRAINING_EXA...

原创 Tensorflow:使用高级接口TFLearn，对数据分类

from sklearn import model_selection from sklearn import datasetsfrom sklearn import metricsimport tensorflow as tflearn = tf.contrib.learn#自定义模型，传入数据即特征，以及标签，返回预测值、损失值、训练步骤def my_model(feature...

原创 机器学习：实现线性回归+随机梯度下降代码

import numpy as npimport matplotlib.pyplot as pltx_data=[338,333,328,207,226.,25,179.,60.,208,606.]y_data=[640.,633.,619.,393.,428.,27.,193.,66.,226.,1591.]x=np.arange(-200,-100,1)y=np.arang...

原创 Mysql:事务的隔离级别

事务的隔离级别 事务处理不经隔离，并发处理事务时会出现以下问题：脏读（Dirty READ）： 一个事务读取了另一个事务未提交的数据。 列如：事务A和事务B并发执行时，事务A更新后，事务B查询到事务A尚未提交的数据， 此时，事务A回滚，则事务B读取到的数据就是脏数据（事务B读取事务A未移交的数据）怎么可以出现脏读，脏读中A未提交数据，B如何读取数据，从哪读，他们的...

原创 mysql：事务处理

事务处理事务ACID特性事务的隔离级别事务的基本概念：事务：一个事务是有一个或者多个SQL语句组成的一个不可分割的单元。只有事务中的所有操作都正常完成，那么整个事务会提交给数据库。如果有部分数据处理失败，那么整个事务就会回退到最初的状态。因此：事务要么成功，要么失败。通俗解释：事务就是要完成某项任务时的sql语句，而且具有原子操作，为什么会有原子操作？因为衡量一个事务的整体，只有s...

原创 Mysql:三种存储引擎优缺点分析

存储引擎：MYSQL默认的是INNODB存储引擎，主要了解INNODB，其次就是MYISAM、Memory存储引擎各自特点：1.INNODB： 该存储引擎提供具有提交，回滚、崩溃恢复能力事务安全机制、支持外键、自动增长列等功能， 索引采用的是聚集索引索引和数据存放在同一个文件中，所以INNODB存储引擎的数据存在磁盘上就两个文件。文件名和表名是相同的，扩展名分别为：....

原创 MSQL：Mysql性能优化

Mysql性能优化，即提高数据库运行速度以及减少磁盘空间使用。常常考虑的优化有 查询速度、优化更新速度和优化服务器。针对数据量大，查询操作连接操作频繁的语句进行优化，可以明显提高数据库的性能。如果Mysql数据库中需要进行大量的查询操作，那么对查询语句的优化可以提高整体的查询速度；如果连接Mysql数据库的用户很多，那么就需要对Mysql服务器进行优化，否则，大量的用户同时连接Mysql数据库...

原创 Mysql:Mysql四种日志的设置、启动、查看和删除操作

Mysql日志是记录Mysql数据库的日常操作和错误信息的文件。当数据库遭到意外的损害时，可以通过日志文件来查询出错原因，并且可以通过日志文件进行数据恢复。用来记录Mysql数据库的客户端连接情况、SQL语句的执行情况和错误信息等。Mysql日志分为4种：二进制日志：以二进制文件的形式记录了数据库中的操作，但不记录查询语句。（可以还原数据库）错误日志：记录Mysql服务器的启动、关闭和...

原创 机器学习：SVC实战+源码解读（支持向量机用于分类）

这部分只是对支持向量机sklearn库函数调用，参数解释，以及各个参数对测试结果的影响分析。个人认为入门机器学习实战的最快实例。一.线性分类SVM调用sklearn包中的LinearSVC下面是调用的初始值： def __init__(self, penalty='l2', loss='squared_hinge', dual=True, tol=1e-4, ...

原创 Mysql:索引及其底层原理

索引是创建在表上的，是对数据库表中一列或多列的值进行排序的一种结构。索引可以提高查询速度。一、索引存储类型：B型树(btree)索引和哈希(hash)索引。其中Innodb和myisam存储引擎支持B型索引，memory存储引擎支持hash索引和B型索引；二、索引的优缺点：优点：提高检索数据的速度缺点：创建和维护索引需要耗费时间，耗费时间的数量随着数据量的增加而增加；索引需要占...

原创 mySQL:SQL语句的分类及使用

DDL(Data Definition Languages)语句：数据定义语言，定义不同的数据段，数据库，表，列，索引等数据库对象。常用的关键字 create,drop,alter等，简单的说，就是对数据库内部的对象进行创建、删除、修改的操作语言。1.createcreate table 表名； 创建表cre...

原创 Mysql: distinct去重 group by的区别

distinct,group by都是用来查询不重复的记录distinct用法：select distinct 字段名1，字段名2 from 表名；distinct只能返回它的目标字段，不能返回无重复的所有值；group by用法：select * from 表名 group by 字段名；返回无重复的所有记录；...

原创 机器学习：为什么要做特征归一化处理？

特征归一化的好处：1.提升模型的收敛速度 比如两个特征x1和x2，x1的取值为0到1000，x2的取值为0到5，如果只有这两个特征，对其优化时，会得到一个窄长的椭圆，导致在梯度下降时，梯度的方向为垂直等高线的方向而走之字形路线，这样会使迭代很慢。如果做了归一化处理，是一个圆，梯度方向为直接指向圆心，迭代就会很快。归一化节省了寻找最优解的时间。2.提高模型的精度 ...