【置顶】博客搬迁

hhhenjoy — Thu, 30 Sep 2021 13:06:44 +0800

用了快一年优快云，感觉体验越来越差了。相对而言更喜欢博客园简洁的风格（优快云关不掉的广告对强迫症患者而言可太难受啦）遂搬至： https://www.cnblogs.com/kyfishing/ 本蒟蒻会继续坚持记录自己的学习收获欢迎对机器学习/ 算法 / 数学/ 编程语言感兴趣的朋友们关注！ ...

【机器学习实战】Keras人工神经网络简介

hhhenjoy — Tue, 28 Sep 2021 17:01:40 +0800

使用Keras实现MLP 加载数据集 import tensorflow as tf from tensorflow import keras from keras.datasets import fashion_mnist (X_train_full, y_train_full), (X_test, y_test) = fashion_mnist.load_data() X_valid, X_train = X_train_full[:5000]/255.0, X_train_full[5000:]/2

【动手深度学习】线性神经网络

hhhenjoy — Mon, 27 Sep 2021 17:03:24 +0800

线性回归从零开始实现 import random import torch from d2l import torch as d2l # 生成数据集 def synthetic_data(w, b, num_examples): """y = Xw + b + noise""" X = torch.normal(0, 1, (num_examples, len(w))) y = torch.matmul(X, w) + b y += torch.normal(0, 0.01

【机器学习实战】Ch 9：无监督学习技术

hhhenjoy — Wed, 22 Sep 2021 15:08:46 +0800

K-Means from sklearn.cluster import KMeans k = 5 kmeans = KMeans(n_clusters=k) y_pred = kmeans.predict(X) # 算法的k个中心点 kmeans.cluster_centers_ # 每个实例到中心点距离 (软聚类) kmeans.transform(X) # 训练实例的标签副本 kmeans.labels_ 中心点初始化方法如果事先知道了中心点位置，可以将超参数init设置为中心点列表的Num

【机器学习实战】Ch 8：降维

hhhenjoy — Wed, 22 Sep 2021 09:41:40 +0800

降维的主要方法投影将高维空间的点投影到低维子空间上流形学习 d维流形是n维空间（且d

【机器学习实战】Ch 7：集成学习和随机森林

hhhenjoy — Sun, 19 Sep 2021 17:16:35 +0800

投票分类器假设已经训练好了一些分类器，每个分类器准确率约为80%。这时，要创建一个更好的分类器，最简单的办法是聚合每个分类器的预测，然后将得票数最多的结果作为预测类别。这种大多数投票分类器被称为硬投票分类器。如下用Scikit-Learn创建并训练一个投票分类器，由三种不同的分类器组成： # satellite datasets from sklearn.datasets import make_moons X, y = make_moons(n_samples=100, noise=0

【机器学习实战】Ch 6：决策树

hhhenjoy — Sun, 19 Sep 2021 12:28:05 +0800

训练决策树 Scikit-Learn使用分类和回归树算法来训练决策树工作原理：使用单个特征k和阈值tk将训练集分为两个子集，通过选择（k, tk）最小化成本函数/搜索最纯子集。并重复该过程，直到到达最大深度或找不到减少不纯度的分割，停止递归。其他一些超参数也可以控制停止条件（稍后叙述） from sklearn.datasets import load_iris from sklearn.tree import DecisionTreeClassifier iris = load_iris()

【机器学习实战】Ch 5：支持向量机

hhhenjoy — Sun, 19 Sep 2021 09:36:21 +0800

线性SVM分类 SVM分类器在类之间拟合可能的最宽街道软间隔分类，超参数C越小，越容易欠拟合，间隔违例情况越多，但泛化效果可能更好；C越大，越容易过拟合，间隔违例情况越少，泛化效果更差。 # detect virginica iris import numpy as np from sklearn import datasets from sklearn.pipeline import Pipeline from sklearn.preprocessing import StandardScale

【机器学习实战】Ch 4: 训练模型

hhhenjoy — Fri, 17 Sep 2021 16:50:17 +0800

线性回归 # an example import numpy as np import matplotlib.pyplot as plt X = 2 * np.random.rand(100, 1) y = 3 * X + 4 + np.random.randn(100, 1) plt.plot(X, y, 'k.') plt.show() X_b = np.c_[np.ones((100, 1)), X] theta = np.linalg.inv(X_b.T.dot(X_b)).dot(X_

【文档】编程语言文档网址集合

hhhenjoy — Sun, 12 Sep 2021 19:39:17 +0800

随时待更… MATLAB https://ww2.mathworks.cn/help/matlab/index.html MATLAB本身也有自带的文档 Python seaborn http://seaborn.pydata.org/examples/index.html

【机器学习实战】Ch3：分类

hhhenjoy — Sat, 04 Sep 2021 17:05:12 +0800

多类分类器一对剩余（OvR) / 一对多（one-versus-all) 策略：若创建一个系统将样本分为N类，训练N个分类器，每个类一个——1-检测器，2-检测器……N-检测器（这里类的标签用数字编号表示）当对一个样本进行预测时，获取每个分类器的决策分数，将其分到对应分类器最高的类一对一（OvO）策略：对每一对类训练一个分类器——区分1-2， 1-3， 2-3…… 如果存在N个类，则需训练N*（N-1）/2个分类器，其优点在于每个分类器只需用到部分训练集对其必须区分的两个类进行训练

【python】 DataFrame取某一行

hhhenjoy — Wed, 01 Sep 2021 12:26:35 +0800

df: A B 0 1.068932 -0.794307 2 -0.470056 1.192211 4 -0.284561 0.756029 6 1.037563 -0.267820 8 -0.538478 -0.800654 >>> df.iloc[[0]] >>> 0 1.068932 -0.794307

【吴恩达机器学习】ex2 : logistic regression ——Python

hhhenjoy — Sun, 29 Aug 2021 18:47:42 +0800

logistic regression Python代码： import numpy as np import pandas as pd import matplotlib.pyplot as plt def sigmond(x): sig = 1 / (1 + np.exp(-x)) return sig def gradient_descend(X, Y, init_theta, alpha, iter_nums): theta = init_theta for i

【吴恩达机器学习】ex2: logistic regression —— MATLAB

hhhenjoy — Sat, 28 Aug 2021 20:54:22 +0800

1、Logistic Regression MATLAB代码： % load the data dataset = load("C:\Users\LENOVO\OneDrive - 东南大学\桌面\机器学习\吴恩达作业\matlab\ex2\data\ex2data1.txt"); [m, n] = size(dataset); x1 = dataset(:, 1); x2 = dataset(:, 2); y = dataset(:, 3); X = [ones(size(y)), x1, x2]; X

【吴恩达机器学习】ex1 gradient descend —— python

hhhenjoy — Wed, 25 Aug 2021 18:22:14 +0800

单变量线性回归 Python代码： import numpy as np import matplotlib.pyplot as plt import pandas as pd # cost function def cost_function(X, Y, theta): hyposis = np.dot(np.transpose(theta), X) - np.transpose(Y) cost = np.dot(hyposis, hyposis) / (2 * np.size(Y))

【bug 总结】python:“xxx”object is not callable

hhhenjoy — Wed, 25 Aug 2021 18:06:38 +0800

所谓callable对象是指一个后边可以加()的对象，比如函数，所以这种异常是某对象多加了()，比如：把一个变量用了函数名来命名，结果再调这个函数的时候就会报这个异常 a = np.c_(..., ...) // wrong a = np.c_[..., ...] // correct ...

【吴恩达机器学习】ex1: gradient descend——MATLAB

hhhenjoy — Tue, 24 Aug 2021 14:20:15 +0800

单变量线性回归 MATLAB代码： % load the data data = load("ex1data1.txt"); input = data(:, 1); output = data(:, 2); %scatter plot plot(input, output, 'rx', 'Markersize', 10); [r, c] = size(input); X = [ones(r, 1), input]; X = X'; Y = output; theta = zeros(2, 1); the

【作业】数据结构作业（2）

hhhenjoy — Sat, 21 Aug 2021 23:43:18 +0800

题目描述输出n个元素集合的幂集 eg: S = {a, b, c} output: {(), (a), (b), (c), (a b), (a c), (b c), (a b c)} 算法思想同数据结构作业（1）第二份代码，不再赘述代码实现 #include #include using namespace std; vectoraux; void powerset(char* set, int

【作业】数据结构作业（1）

hhhenjoy — Fri, 20 Aug 2021 09:56:28 +0800

题目描述：给n个bool变量，要求输出这n个bool值所有可能的组合，并计算所有可能组合的数量。我最初的想法 1、构造一个n+1层二叉树，根节点不储存值 2、二叉树的左节点和右节点分别储存的值为true, false 3、二叉树的叶子节点数即为组合的数量 4、从每个叶子节点向上递归，打印值，直到到达根节点注：本题利用数组保存一个二叉树结构，一个序号为i的节点的两个子节点序号为2 * i 和 2 * i + 1，值分别为true 和 false 代码实现 #include

【数学建模和matlab】反思与总结（1）

hhhenjoy — Sat, 07 Aug 2021 12:46:25 +0800

这周开始了数模竞赛的培训第一次任务是2021五一数模竞赛的C题，风险数据预警上午刚评讲，中午抽点时间回忆一下国赛时要注意的问题 1、论文、支撑材料不能包含个人与学校的任何信息特别注意承诺书，不能放在论文与支撑材料中 2、页码规范（1）页码从目录后开始，摘要、目录不算（2）注意规范，要参考往年的国赛论文 3、目录可有可无，摘要放在目录前 4、摘要要写模型、主要算法以及主要结果特别注意要写主要结果，例如本题，第一题要给出分类依据，第二题、第四题的表格中结果要用自己语言概括

hhhenjoy的博客