【Python · Pytorch】人工神经网络 ANN（下 · 代码）

已于 2024-11-17 17:08:05 修改
阅读量1k 收藏 16
点赞数 8
分类专栏： Python 文章标签： python pytorch 开发语言
于 2024-10-30 13:43:44 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Bitter_Li/article/details/143363044
版权

【Python · Pytorch】人工神经网络 ANN（下）

9. 应用实例

ANN / CNN 绘制网站：http://alexlenail.me/NN-SVG/index.html

常用Python库包含数据集：

  • torchvision

    torchvision.datasets这个包本身并不包含数据集的文件本身，它的工作方式是先从网络上把数据集下载到用户指定目录，然后再用它的加载器把数据集加载到内存中。最后，将加载后的数据集作为对象返回给用户。

    名称说明类型维度
    MNIST手写数字分类28*28
    EMNIST手写字符分类28*28
    Fashion-MNIST服饰图标分类28*28
    ImageNet物体识别（21,841类）分类224*224
    CIFAR-10 / CIFAR-100物体识别分类32*32
    Caltech 101 / Caltech 256物体识别分类300*200
    KITTI自动驾驶视觉场景分类-
    SVHN谷歌街景门牌号码分类-
    COCO目标识别分类-
    PASCAL VOC物体识别分类-
    ……………………

  • scikit-learn

    sklearn除load系列经典数据集外，还支持自定义数据集make系列和下载数据集fetch系列（load系列为安装sklearn库时自带，而fetch则需额外下载），这为更多的学习任务场景提供了便利。

    名称说明类型维度
    load_bostonBoston房屋价格回归506*13
    fetch_california_housing加州住房回归20640*9
    load_diabetes糖尿病回归442*10
    load_digits手写字分类1797*64
    load_iris鸢尾花分类 / 聚类(50*3)*4
    load_wine葡萄酒分类(59+71+48)*13
    load_linnerud体能训练多分类20
    ……………………

  • 其他常见数据集

    名称说明类型维度
    FDDB / LFW人脸识别分类-
    WiderPerson密集行人检测分类-
    ……………………

9.1 分类

(1) 数据集介绍

IRIS鸢尾花数据集

IRIS鸢尾花数据集是常用的分类实验数据集，由Fisher于1936年收集。Iris也称鸢尾花卉数据集，属多重变量分析数据集。

数据集包含150个数据样本，分为3类，每类50个数据，每个数据包含4个属性。

序号属性单位
1Sepal.Length（花萼长度）cm
2Sepal.Width（花萼宽度）cm
3Petal.Length（花瓣长度）cm
4Petal.Width（花瓣宽度）cm

种类：Iris Setosa（山鸢尾）、Iris Versicolour（杂色鸢尾）、Iris Virginica（维吉尼亚鸢尾）。

from sklearn.datasets import load_iris

(2) 训练模型

本小节将构建并训练人工神经网络，实现通过4个属性判断鸢尾花种类。

绘制网络结构图

在这里插入图片描述

① 导入三方库

import torch
import torch.nn as nn
import torch.nn.functional as F
import numpy as np

② 读取数据集

# Scikit-learn
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier

data = load_iris()

X = data.data
y = data.target

划分数据集

X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=12, stratify=y,test_size=0.3)

# Sepal: Length & Width
# Petal: Length & Width
# ## Setosa、Versicolour、Virginica

y_train_onehot = []

for i in range(len(y_train)):
    y = [0 for i in range(3)]
    y[y_train[i]] = 1
    y_train_onehot.append(y)

X_train = torch.Tensor(X_train)
X_test = torch.Tensor(X_test)
y_train = torch.Tensor(y_train_onehot)
y_test = torch.Tensor(y_test)

③ 创建人工神经网络

class ANN(nn.Module):
    n_input = 4
    n_h1 = 10
    n_h2 = 10
    n_output = 3

    def __init__(self):
        super(ANN, self).__init__()

        self.layers = nn.Sequential(
            nn.Linear(self.n_input, self.n_h1),
            nn.ReLU(),
            nn.Linear(self.n_h1, self.n_h2),
            nn.ReLU(),
            nn.Linear(self.n_h2, self.n_output),
        )
        
    def forward(self, x):
        return self.layers(x)

④ 训练人工神经网络

# 设置随机种子，保证初始化参数一致
torch.manual_seed(20)
# 创建模型对象
model = ANN()

# 定义损失函数
loss_function = nn.CrossEntropyLoss()
# 定义优化器
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)

# 定义轮次
epochs = 500
# 累计损失
final_losses = []

for i in range(epochs):
    # 1. 正向传播
    y_pred = model(X_train)
    # 2. 计算损失
    loss = loss_function(y_pred, y_train)
    final_losses.append(loss)
    if i % 10 == 0:
        print("epoch number: {} and the loss {}".format(i+1, loss.item()))
        # 另一种写法：print("epoch number: %s and the loss %s"%(i+1, loss.item()))

    # 清空梯度
    optimizer.zero_grad()

    # 3. 反向传播
    loss.backward()
    # 4. 优化参数
    optimizer.step()

在这里插入图片描述

⑤ 测试人工神经网络

total = len(X_test)
currect = 0
with torch.no_grad():
    for i in range(total):
        outputs = model(X_test[i])
        _, predicted = torch.max(outputs.data, 0)
        if y_test[i] == predicted:
            currect += 1
print('Test Currect Rate: {}%'.format(currect / total * 100))

在这里插入图片描述

9.2 图像识别

9.2.1 手写数字识别

(1) 数据集介绍

Mnist数据集

手写数字识别数据集，数据集分为训练集和测试集，用于训练和评估机器学习模型。

该数据集在深度学习领域具有重要地位，尤其适合初学者学习和实践图像识别技术。

  • 该数据集含有10种类别，共70000个灰度图像。包含60000个训练集样本， 和10000个测试集样本。
  • 每张图像以28x28像素的分辨率提供。
# torchvision
import torch
import torchvision.datasets as dataset
import torchvision.transforms as transforms

# 读取训练集
train_data = dataset.MNIST(root = "mnist",
                           train = True,
                           transform = transforms.ToTensor(),
                           download = True)
 
# 读取测试集
test_data = dataset.MNIST(root = "mnist",
                           train = False,
                           transform = transforms.ToTensor(),
                           download = True)
(2) 训练模型

本小节将构建并训练人工神经网络，实现通过手写数字图片判断数字。

在这里插入图片描述

① 导入三方库

import os
import cv2
import torch
import torch.nn as nn
import numpy as np
import matplotlib.pyplot as plt

② 读取数据集

查看图片样例

""" 利用cv2查看 """
# img_demo = cv2.imread('./data/mnist/mnist_train_jpg_60000/0_5.jpg',cv2.IMREAD_GRAYSCALE)
# cv2.imshow('Image', img_demo)
# cv2.waitKey(0)
# cv2.destroyAllWindows()

""" 利用matplotlib.pyplot查看 """
img_demo = cv2.imread('./data/mnist/mnist_train_jpg_60000/0_5.jpg',cv2.IMREAD_GRAYSCALE)
plt.imshow(img_demo, cmap='gray', vmin=0, vmax=255)
plt.show()

读取训练集

""" 训练集 """
count = 0
X_train = []
y_train = []
train_path = './data/mnist/mnist_train_jpg_60000/'
for filename in os.listdir(train_path):
    filepath = os.path.join(train_path, filename)
    img = cv2.imread(filepath,cv2.IMREAD_GRAYSCALE)
    img = img.reshape(-1)
    X_train.append(img)
    y = np.zeros(10)
    y[int(filename.split('_')[1][0])] = 1
    y_train.append(y)

X_train = torch.Tensor(np.array(X_train))
y_train = torch.Tensor(np.array(y_train))
X_train.shape, y_train.shape

读取测试集

""" 测试集 """
# 测试集
X_test = []
y_test = []
y_test_num = []
test_path = './data/mnist/mnist_test_jpg_10000/'
for filename in os.listdir(test_path):
    filepath = os.path.join(test_path, filename)
    img = cv2.imread(filepath,cv2.IMREAD_GRAYSCALE)
    img = img.reshape(-1)
    X_test.append(img)
    y = np.zeros(10)
    y[int(filename.split('_')[1][0])] = 1
    y_test.append(y)

X_test = torch.Tensor(np.array(X_test))
y_test = torch.Tensor(np.array(y_test))
X_test.shape, y_test.shape

③ 创建人工神经网络

class ANN(nn.Module):
    n_input = 28*28
    n_h1 = 16
    n_h2 = 16
    n_output = 10

    def __init__(self):
        super(ANN, self).__init__()

        self.layers = nn.Sequential(
            nn.Flatten(),
            nn.Linear(self.n_input, self.n_h1),
            nn.ReLU(),
            nn.Linear(self.n_h1, self.n_h2),
            nn.ReLU(),
            nn.Linear(self.n_h2, self.n_output),
        )

    def forward(self, x):
        return self.layers(x)

④ 训练人工神经网络

torch.manual_seed(20)
model = ANN()
loss_function = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
epochs = 500

final_losses = []
for i in range(epochs):
    # 1. 正向传播
    y_pred = model.forward(X_train)
    
    # 2. 计算loss
    loss = loss_function(y_pred, y_train)
    final_losses.append(loss)
    if i % 10 == 0:
        print("epoch number: {} and the loss {}".format(i+1, loss.item()))

    # 清空梯度
    optimizer.zero_grad()
    
    # 3. 反向传播
    loss.backward()
    # 4. 优化参数
    optimizer.step()
losses = [x.detach().numpy() for x in final_losses]
plt.plot(range(epochs), losses)
plt.ylabel('Loss')
plt.xlabel('Epoch')

在这里插入图片描述

⑤ 测试人工神经网络

total = len(X_test)
currect = 0
with torch.no_grad(): 
    for i in range(total):
        outputs = model.forward(X_test[i])
        _, predicted = torch.max(outputs.data, 0)
        
        if y_test[i][predicted] == 1:
            currect += 1
print('Test Currect Rate: {}%'.format(currect / total * 100))

在这里插入图片描述

※ 提供人工手写案例

# res = 5
img_test = cv2.imread('./data/demo_5.jpg', cv2.IMREAD_GRAYSCALE)
plt.imshow(img_test, cmap='gray', vmin=0, vmax=255)
plt.show()
img_test = torch.Tensor(img_test.reshape(-1))

outputs = model(img_test)
_, predicted = torch.max(outputs.data, 0)
print(predicted)

在这里插入图片描述

# res = 7
img_test = cv2.imread('./data/demo_7.jpg', cv2.IMREAD_GRAYSCALE)
plt.imshow(img_test, cmap='gray', vmin=0, vmax=255)
plt.show()
img_test = torch.Tensor(img_test.reshape(-1))

outputs = model(img_test)
_, predicted = torch.max(outputs.data, 0)
print(predicted)

在这里插入图片描述

这种神经网络对旋转数字抗性较差（虽然手写数字中6和9不适合旋转处理，但旋转角度不大，人类可以识别出6）

# res = 6 ×××
img_test = cv2.imread('./data/demo_6.jpg', cv2.IMREAD_GRAYSCALE)
plt.imshow(img_test, cmap='gray', vmin=0, vmax=255)
plt.show()
img_test = torch.Tensor(img_test.reshape(-1))

outputs = model(img_test)
_, predicted = torch.max(outputs.data, 0)
print(predicted)

在这里插入图片描述

9.2.2 衣物图标识别

(1) 数据集介绍

Fashion-Mnist数据集

衣物分类数据集，经典MNIST手写数字数据集的现代替代品的数据集。

  • 该数据集含有10种类别，共70000个灰度图像。包含60000个训练集样本， 和10000个测试集样本。
  • 每张图像以28x28像素的分辨率提供。

在这里插入图片描述

FashionMNIST包含以下10个类别：

  • T-shirt/top （T恤/上衣）
  • Trouser （裤子）
  • Pullover （套头衫）
  • Dress （连衣裙）
  • Coat （外套）
  • Sandal （凉鞋）
  • Shirt （衬衫）
  • Sneaker （运动鞋）
  • Bag （包包）
  • Ankle boot （踝靴）
# torchvision.datasets.FashionMNIST
(2) 训练模型

本小节将构建并训练人工神经网络，实现通过衣服图片判断衣服种类。

① 导入三方库

import torch
import torch.nn as nn
import numpy as np

② 读取数据集

torchvision读取

""" torchvision """
# import torch
# from torch import nn
# from torch.utils.data import DataLoader
# from torchvision import datasets
# from torchvision.transforms import ToTensor

# # Download training data from open datasets.
# training_data = datasets.FashionMNIST(
#     root="data",
#     train=True,
#     download=True,
#     transform=ToTensor(),
# )

# # Download test data from open datasets.
# test_data = datasets.FashionMNIST(
#     root="data",
#     train=False,
#     download=True,
#     transform=ToTensor(),
# )

文件读取

def load_mnist(path, kind='train'):
    import os
    import gzip
    import numpy as np

    """Load MNIST data from `path`"""
    labels_path = os.path.join(path, '{}-labels-idx1-ubyte.gz'.format(kind))
    images_path = os.path.join(path, '{}-images-idx3-ubyte.gz'.format(kind))
    
    with gzip.open(labels_path, 'rb') as lbpath:
        labels = np.frombuffer(lbpath.read(), dtype=np.uint8, offset=8)
    with gzip.open(images_path, 'rb') as imgpath:
        images = np.frombuffer(imgpath.read(), dtype=np.uint8, offset=16).reshape(len(labels), 28*28)
        
    return images, labels

读取数据集

X_train, y_train = load_mnist(path='./data/fashion-mnist/')
X_test, y_test = load_mnist(path='./data/fashion-mnist/', kind='t10k')

y_train_onehot = []

for i in range(len(y_train)):
    y = [0 for i in range(10)]
    y[y_train[i]] = 1
    y_train_onehot.append(y)

y_train = y_train_onehot

图片数据输出

import matplotlib.pyplot as plt

plt.imshow(X_test[4].reshape(28,28), cmap='gray', vmin=0, vmax=255)
plt.show()

在这里插入图片描述

③ 创建人工神经网络

class ANN(nn.Module):
    n_input = 784
    n_h1 = 512
    n_h2 = 256
    n_h3 = 128
    n_h4 = 64
    n_h5 = 32
    n_h6 = 10
    n_output = 10
    
    def __init__(self):
        super(ANN, self).__init__()

        self.layers = nn.Sequential(
            nn.Linear(self.n_input, self.n_h1),
            nn.ReLU(),
            nn.Dropout(0.2),
            nn.Linear(self.n_h1, self.n_h2),
            nn.ReLU(),
            nn.Dropout(0.2),
            nn.Linear(self.n_h2, self.n_h3),
            nn.ReLU(),
            nn.Dropout(0.2),
            nn.Linear(self.n_h3, self.n_h4),
            nn.ReLU(),
            nn.Linear(self.n_h4, self.n_h5),
            nn.ReLU(),
            nn.Linear(self.n_h5, self.n_h6),
            nn.ReLU(),
            nn.Linear(self.n_h6, self.n_output),
        )

    def forward(self, x):
        return self.layers(x)

④ 训练人工神经网络

torch.manual_seed(20)
model = ANN()
loss_function = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)
epochs = 500

final_losses = []
for i in range(epochs):
    # 1. 正向传播
    y_pred = model.forward(X_train)

    # 2. 计算loss
    loss = loss_function(y_pred, y_train)
    final_losses.append(loss)
    if i % 10 == 0:
        print("epoch number: {} and the loss {}".format(i+1, loss.item()))

    # 清空梯度
    optimizer.zero_grad()

    # 3. 反向传播
    loss.backward()
    # 4. 优化参数
    optimizer.step()

在这里插入图片描述

⑤ 测试人工神经网络

total = len(X_test)
currect = 0
with torch.no_grad():
    for i in range(total):
        outputs = model(X_test[i])
        _, predicted = torch.max(outputs.data, 0)
        if y_test[i] == predicted:
            currect += 1
print('Test Currect Rate: {}%'.format(currect / total * 100))

在这里插入图片描述

9.2.3 网络结构优越性探讨

①【手写数字】深度网络 VS 浅层网络

原本使用浅层网络：

n_input = 784		# 28*28
n_h1 = 16
n_h2 = 16
n_output = 10

将网络设置更加深层：

n_input = 784
n_h1 = 256
n_h2 = 128
n_h3 = 64
n_h4 = 32
n_output = 10

在这里插入图片描述

在第420轮左右误差有小幅增大，但测试结果良好：

在这里插入图片描述

测试准确率由 80.33% 增至 90.18%。

将总训练轮数调至400轮，训练准确率更高。

这虽然 简单说明 了 深度网络优于浅层网络，但因原始数据集不能代表所有未知数据，且该数据集同质化数据较高，未考虑 背景色 等因素，故仍不能排除存在 过拟合 的可能性，结果仍存在疑点。

但毫无疑问的是，深层网络具有更多权重，容量大。且网络结构“更深”，可以逐步过滤提取特征，提取深层隐藏特征，最终输出更优的结果。

训练过程：

在这里插入图片描述

测试结果：

在这里插入图片描述

测试准确率由 90.18% 增至 94.95%。

其实，从两个图像识别分类任务比对也可看出，衣物图标任务数据集表现形式更丰富，若想达到与手写数字任务 相近/更优 的准确率，需使用 更深+更复杂 的神经网络。

②【衣物图标】Dropout 提升精准度

引入Dropout，该识别分类实验准确率得以破8。

去除该实验中所有层Dropout，从第100轮左右可看出神经网络收敛速度相较于引入Dropout更快，但最终结果较差：

训练过程：

在这里插入图片描述

测试结果：

在这里插入图片描述

测试准确率由 80.33% 降至 78.05%。

9.2.4 保存&加载 模型

以附带Dropout的衣物图标识别为例：

保存模型

torch.save(model.state_dict(),'fashion-mnist-ANN.pt')

加载模型

model = MyANN()

model.load_state_dict(torch.load('fashion-mnist-ANN.pt'))
print(model)		# 可查看网络结构

在这里插入图片描述

9.3 预测回归

(1) 数据集介绍

California房价预测数据集

California房价预测数据集，为Boston房价数据集的平替数据集。

fetch系列数据集需要通过网络下载，但有时会抛出HTTPError: HTTP Error 403: Forbidden的异常。

# Scikit-learn
# california 房价预测数据集
from sklearn.datasets import fetch_california_housing
from sklearn.model_selection import train_test_split

housing_california = fetch_california_housing()
X = housing_california.data    # data
y = housing_california.target   # label

故可以通过网址自行 下载，再通过tarfile库读取数据。

下载地址：https://www.dcc.fc.up.pt/~ltorgo/Regression/cal_housing.tgz

import pandas as pd
import tarfile
from sklearn.model_selection import train_test_split

tar = tarfile.open(r'./data/cal_housing.tgz')
names = tar.getnames()         # ['CaliforniaHousing/cal_housing.data', 'CaliforniaHousing/cal_housing.domain']

# 抽取.data文件，其格式等同csv文件
data = tar.extractfile(names[0])
df = pd.read_csv(data, header=None)
# 抽取.domain文件，其格式等同csv文件
domain = tar.extractfile(names[1])
ddf = pd.read_csv(domain, header=None)
ddf = ddf.values.tolist()
headers = []
for ddff in ddf:
    header = ddff[0].split(':')[0]
    headers.append(header)

# 更换表头，更加直观；亦可不换，直转Tensor。
df.columns = headers

(2) 训练模型

绘制网络结构图

在这里插入图片描述

① 导入三方库

import torch
import torch.nn as nn
import numpy as np

② 读取数据集

sklearn.model_selection读取

# Scikit-learn
# california 房价预测数据集
from sklearn.datasets import fetch_california_housing
from sklearn.model_selection import train_test_split

housing_california = fetch_california_housing()
X = housing_california.data    # data
y = housing_california.target   # label

文件读取

import pandas as pd
import tarfile
from sklearn.model_selection import train_test_split

tar = tarfile.open(r'./data/cal_housing.tgz')
names = tar.getnames()         # ['CaliforniaHousing/cal_housing.data', 'CaliforniaHousing/cal_housing.domain']

# 抽取.data文件，其格式等同csv文件
data = tar.extractfile(names[0])
df = pd.read_csv(data, header=None)
# 抽取.domain文件，其格式等同csv文件
domain = tar.extractfile(names[1])
ddf = pd.read_csv(domain, header=None)
ddf = ddf.values.tolist()
headers = []
for ddff in ddf:
    header = ddff[0].split(':')[0]
    headers.append(header)

# 更换表头，更加直观；亦可不换，直转Tensor。
df.columns = headers

读取数据

data = df.values

from sklearn.preprocessing import MinMaxScaler
scaler = MinMaxScaler()
scaler = scaler.fit(data)

result = scaler.transform(data)
print(result)

X = result[:,:-1]
y = result[:,-1:]

划分数据集

X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=12, test_size=0.2)

X_train = torch.Tensor(X_train)
X_test = torch.Tensor(X_test)
y_train = torch.Tensor(y_train)
y_test = torch.Tensor(y_test)

③ 创建人工神经网络

class ANN(nn.Module):
    n_input = 8
    n_h1 = 12
    n_h2 = 12
    n_output = 1

    def __init__(self):
        super(ANN, self).__init__()
        
        self.layers = nn.Sequential (
            nn.Linear(self.n_input, self.n_h1),
            nn.ReLU(),
            nn.Linear(self.n_h1, self.n_h2),
            nn.ReLU(),
            nn.Linear(self.n_h2, self.n_output),
        )

    def forward(self, x):
        return self.layers(x)

④ 训练人工神经网络

# 设置随机种子，确保结果一致
# torch.manual_seed(24)
# 创建模型对象
model = ANN()

# 定义损失函数
loss_function = nn.MSELoss()
# 定义优化器
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)

# 定义轮次
epochs = 500
batch_size = 50
# 累计损失
final_losses = []

for i in range(epochs):
    count = 0
    for j in range(batch_size):
        # 1. 正向传播
        y_pred = model(X_train[count*batch_size:count*batch_size+batch_size])
        # 2. 计算损失
        loss = loss_function(y_pred, y_train[count*batch_size:count*batch_size+batch_size])
        final_losses.append(loss)
    
        # 清空梯度
        optimizer.zero_grad()
        # 3. 反向传播
        loss.backward()
        # 4. 优化参数
        optimizer.step()
        count+=1

    if i % 10 == 0:
        print("epoch number: {} and the loss {}".format(i+1, loss.item()))

在这里插入图片描述

⑤ 测试人工神经网络

total = len(X_test)
currect = 0

with torch.no_grad():
    for i in range(total):
        outputs = model(X_test[i])
        if abs(outputs - y_test[i]) - 0.1 < 0:
            currect+=1
print('Test Currect Rate: {}%'.format(currect / total * 100))

在这里插入图片描述

PyTorch深度学习实战（1）——神经网络与模型训练过程详解
盼小辉丶的博客
05-28 8万+
在本节中，我们将了解传统机器学习与人工神经网络间的差异，并了解如何在实现前向传播之前连接网络的各个层，以计算与网络当前权重对应的损失值；实现反向传播以优化权重达到最小化损失值的目标。并将实现网络的所有关键组成——前向传播、激活函数、损失函数、链式法则和梯度下降，从零开始构建并训练了一个简单的神经网络。
图神经网络实战（6）——使用PyTorch构建图神经网络
热门推荐
盼小辉丶的博客
03-28 1万+
图数据集通常比简单的连接集合更加丰富，因为节点和边可以具有表示分数、颜色、单词等特征。包含这些额外信息在输入数据中对于生成最佳嵌入至关重要。在本节中，我们将使用 Cora 和 Facebook Page-Page 数据集，首先将它们视为表格数据集，观察香草神经网络在节点特征上的表现如何。然后，尝试在神经网络中加入拓扑信息，实现图神经网络 (Graph Neural Networks, GNN) 架构：一个同时考虑节点特征和边的简单模型。最后，我们将比较两种架构的性能。
ANN神经网络工程代码（传统的BP神经网络-1个隐藏层）支持VS2017打开
10-08
总共三层（一个隐藏层）神经网络，做成了带界面的exe（含c++源码-MFC），界面上可以设置学习率，最大迭代次数等各种参数，如果不会使用，请在留言区留言。可以用来学习神经网络，也可以直接迁移过去商业化。
PyTorch实现全连接神经网络进行Fashion-MNIST分类（附完整代码与训练结果）
最新发布
m0_74824642的博客
04-09 856
定义全连接网络nn.Flatten(), # 将28x28图像展平为784维向量nn.Linear(784, 256), # 输入层到隐藏层nn.ReLU(), # 激活函数nn.Linear(256, 10) # 隐藏层到输出层# 权重初始化函数net.apply(init_weights) # 应用初始化net.to(device) # 转移至GPU（如果可用）
人工神经网络（ANN）——python代码及示例
qq_52862974的博客
05-02 6052
将excel表处理成如下形式（预测指标放在最后一列），然后将excel数据另存为txt形式，可以在python中引用。其中，solver参数可选“lbfgs（优化器，小样本适用）、sgd（随机梯度下降）、adam（默认，大样本适用）”其中安装sklearn库前需要安装numpy、scipy、matplotlib库。（年份是我随便写的，实际应该是1990-2012，在代码画图时可以用到）pip install +库名。
Python3《机器学习实战》学习笔记（十）：ANN人工神经网络代码详解（数字识别案例以及人脸识别案例）
weixin_43886282的博客
11-16 2312
学习了ANN，手动实现正反向传播，但是准确率很差，浮动在70-80之间。手动实现的感觉就这水平了，没有pytorch框架运行的准确率高。希望继续加油2022快点过去吧。
Python学习笔记——人工神经网络ANN（Artificial Neural Network ）
Waitind_的博客
04-21 2699
k折交叉验证（k-fold cross-validation）是一种评估机器学习模型性能的方法，它通过将训练集分成 k 个大小相等的子集（折叠或折数），然后选择 k-1 个子集作为训练集，剩下的一个子集作为验证集（或测试集），对模型进行 k 次这样的迭代。每次迭代都会评估模型的性能，并使用所有 k 次评估的平均性能来代表模型的整体性能。训练集的每条记录用于训练的次数相同，并且恰好被检验一次。
神经网路ann源代码
03-01
这是一个神经网络开发包。目录ann下是专门针对神经网络的代码，外部目录是一些公用的代码，与神经网络无关，但是神经网络的代码用到了它们。 ann目录下有一个目录demo，里面存放了一些示例程序，请参照它们进行编程。 该开发包为http://www.aiport.net分发，详细帮助和最新资料请登陆该网站查看。
pytorch bp神经网络 ann
10-26
BP神经网络是一种常见的人工神经网络模型，也称为多层感知机(MLP)网络。在Pytorch中，要搭建一个BP神经网络，通常需要继承nn.Module类，并在构造函数中定义网络的框架。具体而言，需要定义输入层、若干个隐层和输出...
Emotion-Detection:使用Python和人工神经网络的基于面部表情的情感分析
04-12
人工神经网络（ANN）是深度学习的核心，模拟了人脑神经元的工作方式。在情感识别任务中，多层感知器（MLP）或卷积神经网络（CNN）常被用于从面部图像中学习特征并分类情感。 6. **深度学习框架**： 实现这样的...
人工神经网络python
04-12
人工神经网络(ANN)是人工智能领域的一个重要分支，它模拟人脑神经元的工作方式来解决复杂问题。在Python中，由于其丰富的库和简洁的语法，成为实现神经网络的首选编程语言。本教程将深入探讨如何使用Python进行神经...
人工神经网络开源库源码＋示例代码＋详细讲解＋支持多开发语言
07-26
人工神经网络库源码＋示例代码＋详细讲解＋支持多开发语言讲的很详细，希望对用的着的朋友提供帮助。开源才是硬道理，正如作者所说： I cannot say that developing Open Source sofeware is something that all software developers should do. but I will say that it has given me a great deal of satisfaction, so if you think that it might be something for you, then find an Open Sourde project that you would like to contribut to , and start contributing ,Or even better,start your own Open Source project.
人工神经网络算法源代码-人工神经网络算法源代码.rar
08-13
人工神经网络算法源代码-人工神经网络算法源代码.rar 人工神经网络算法源代码 strongbox提醒： 非matlab程序 ]演示程序: CMMATools.exe 神经网络类（BP算法）: BpNet_src.zip
人工神经网络及其应用实例（含代码）
05-05
通过实例对人工神经网络的实际应用进行分析和讲解，清晰的代码一目了然
人工神经网络MATLAB程序代码
02-26
第一章 人工神经网络………………………………………………… 3 §1.1人工神经网络简介………………………………………………………… 3 1．1 人工神经网络的起源 …………………………………………………… 3 1．2 人工神经网络的特点及应用 …………………………………………… 3 §1.2人工神经网络的结构………………………………………………… 4 2．1 神经元及其特性………………………………………………………… 5 2．2 神经网络的基本类型 ……………………………………………… 6 2.2.1 人工神经网络的基本特性…………………………………… 6 2.2.2 人工神经网络的基本结构…………………………………… 6 2.2.3 人工神经网络的主要学习算法……………………………… 7 §1.3人工神经网络的典型模型 ………………………………………………7 3．1 Hopfield网络………………………………………………………… 7 3．2 反向传播(BP)网络…………………………………………………… 8 3．3 Kohonen网络………………………………………………………… 8 3．4 自适应共振理论(ART)…………………………………………………… 9 3．5 学习矢量量化（LVQ）网络………………………………………… 11 §1.4多层前馈神经网络（ＢＰ）模型………………………………………… 12 4．1 BP网络模型特点 …………………………………………………… 12 4．2 BP网络学习算法……………………………………………………… 13 4.2.1信息的正向传递……………………………………………… 13 4.2.2利用梯度下降法求权值变化及误差的反向传播……………… 14 4．3 网络的训练过程……………………………………………………… 15 4．4 BP算法的改进……………………………………………………… 15 4.4.1附加动量法……………………………………………………… 15 4.4.2自适应学习速率………………………………………………… 16 4.4.3动量-自适应学习速率调整算法……………………………… 17 4．5 网络的设计……………………………………………………………… 17 4.5.1网络的层数………………………………………………… 17 4.5.2隐含层的神经元数…………………………………………… 17 4.5.3初始权值的选取……………………………………………… 17 4.5.4学习速率………………………………………………………… 17 §1.5软件的实现……………………………………………………………… 18 第二章 遗传算法………………………………………………………19 §2.1遗传算法简介………………………………………………………………19 §2.2遗传算法的特点………………………………………………………… 19 §2.3遗传算法的操作程序………………………………………………………20 §2.4遗传算法的设计……………………………………………………………20 第三章 基于神经网络的水布垭面板堆石坝变形控制与预测 §3.1概述…………………………………………………………………………23 §3.2样本的选取……………………………………………………………… 24 §3.3神经网络结构的确定………………………………………………………25 §3.4样本的预处理与网络的训练…………………………………………… 25 4．1 样本的预处理……………………………………………………… 25 4．2 网络的训练 …………………………………………………… 26 §3.5水布垭面板堆石坝垂直压缩模量的控制与变形的预测…………………30 5．1 面板堆石坝堆石体垂直压缩模量的控制……………………………30 5．2 水布垭面板堆石坝变形的预测…………………………………… 35 5．3 BP网络与COPEL公司及国内的经验公式的预测结果比较… 35 §3.6结论与建议……………………………………………………………… 38 第四章 BP网络与遗传算法在面板堆石坝设计参数控制中的应用 §4.1 概述………………………………………………………………………39 §4.2遗传算法的程序设计与计算………………………………………………39 §4.3结论与建议…………………………………………………………………40 参考文献…………………………………………………………………………41
人工神经网络程序
04-12
本压缩包包含基于MATLAB的心电信号BP网络识别程序，可以在C盘上顺利运行，通过提取特征值实现分类识别。
深度学习——神经网络（ANN）搭建过程+python代码
长弓同学的python学习笔记
10-31 3360
出现报错“ValueError: shapes (2,3) and (2,2) not aligned: 3 (dim 1)!其中，该神经网络：输入层（第0层）有2个神经元，第1个隐藏层（第1层）有3个神经元，第2个隐藏层（第2层）有2个神经元，输出层（第3层）有2个神经元。在这里我们定义了identity_function()函数（恒等函数），并将其作为输出层的激活函数。（2*3和2*2矩阵进行点积运算）（2*3矩阵和3*2矩阵点积运算）矩阵的乘积可以通过NumPy的。(2*2矩阵点积计算)
ANN代码
weixin_35750953的博客
01-24 340
ANN(人工神经网络)代码可以使用多种编程语言编写，如Python，Java，C++等。具体代码取决于所使用的框架和算法。例如，使用Python和TensorFlow框架可以这样编写一个简单的多层感知机(MLP)代码： import tensorflow as tffrom tensorflow.keras import layers #定义模型 model = tf.keras.Sequent...
【Python · Pytorch】人工神经网络 ANN（上）
茶色喵的博客
10-30 1763
本文介绍人工神经网络的基础概念，为博主自用笔记提纲。
ANNpython示例
03-04
### 构建简单的人工神经网络 为了实现一个用于手写数字分类的简单人工神经网络(ANN)，可以采用Python编程语言以及流行的机器学习库Keras。下面展示了一个完整的例子，包括数据预处理、模型定义、编译、训练和评估。 #### 数据准备 首先加载MNIST数据集，这是一个常用的手写数字图像集合： ```python from keras.datasets import mnist import numpy as np # 加载 MNIST 数据集 (x_train, y_train), (x_test, y_test) = mnist.load_data() # 归一化像素值到0-1之间，并转换成浮点数类型 x_train = x_train.astype('float32') / 255. x_test = x_test.astype('float32') / 255. # 将图片展平为784维向量 x_train = x_train.reshape((len(x_train), np.prod(x_train.shape[1:]))) x_test = x_test.reshape((len(x_test), np.prod(x_test.shape[1:]))) print(f"x_train shape: {x_train.shape}") ``` #### 定义模型架构 创建一个多层感知器(Multilayer Perceptron, MLP)，即一种典型的全连接前馈神经网络： ```python from keras.models import Sequential from keras.layers import Dense model = Sequential() model.add(Dense(512, activation='relu', input_shape=(784,))) # 输入层 -> 隐藏层1 model.add(Dense(512, activation='relu')) # 隐藏层2 model.add(Dense(10, activation='softmax')) # 输出层 ``` 这里选择了两个具有ReLU激活函数的隐藏层，最后一个输出层使用Softmax来获得类别概率分布[^1]。 #### 编译与配置优化器 指定损失函数、性能指标以及其他必要的超参数设置： ```python model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy']) ``` 此部分指定了Adam作为优化算法，`sparse_categorical_crossentropy`适合作为目标变量是整数值的情况下的多分类任务[^4]。 #### 训练模型 利用训练集中的一部分样本迭代更新权重直至收敛： ```python history = model.fit(x_train, y_train, epochs=5, batch_size=128, validation_split=.2) ``` 这段代码设置了每次批量大小(batch size)=128，在整个训练过程中共执行五轮(epoch)，并且保留了20%的数据用来验证模型表现。 #### 测试模型准确性 最后一步是对测试集上的预测效果做最终检验： ```python test_loss, test_acc = model.evaluate(x_test, y_test) print(f'Test accuracy: {test_acc}') ``` 上述过程展示了如何用Python编写一个人工神经网络来进行基本的任务—手写数字识别。这不仅有助于理解ANN的工作机制，也为更深入研究提供了良好的起点。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值