Tensorflow基础教程2:Tensorflow模型建立与训练

Tensorflow2.0 YOLO篇之模型搭建与训练 Tensorflow2.0之 YOLO篇模型搭建与训练 YOLO篇之算法原理介绍 YOLO篇之提取xml文件信息 YOLO篇之图像信息预处理 YOLO篇之YOLO1论文 YOLO篇模型搭建与训练 这一篇我们就要结束yolo2的代码了,代码和相关资料的下载链接在博客的最后面,文章只是模型搭建和训练的过程,代码里面涉及到的一些函数是上几篇博客中提到的,有兴趣可以去看看。 模型搭建 YOLO的训... 阅读详情

在开始学习之前推荐大家可以多在  FlyAI竞赛服务平台 多参加训练和竞赛,以此来提升自己的能力。FlyAI是为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台。每周免费提供项目开源算法样例,支持算法能力变现以及快速的迭代算法模型。

目录

  模型(Model)与层(Layer)

  Keras 的全连接层:线性变换 + 激活函数

  为什么模型类是重载 `call()` 方法而不是 `__call__()` 方法?

  本章介绍如何使用 TensorFlow 快速搭建动态模型。

  模型的构建: tf.keras.Model 和 tf.keras.layers

  模型的损失函数: tf.keras.losses

  模型的优化器: tf.keras.optimizer

  模型的评估: tf.keras.metrics

  模型(Model)与层(Layer)

  在 TensorFlow 中,推荐使用 Keras( tf.keras )构建模型。Keras 是一个广为流行的高级神经网络 API,简单、快速而不失灵活性,现已得到 TensorFlow 的官方内置和全面支持。

  Keras 有两个重要的概念: 模型(Model) 和 层(Layer) 。层将各种计算流程和变量进行了封装(例如基本的全连接层,CNN 的卷积层、池化层等),而模型则将各种层进行组织和连接,并封装成一个整体,描述了如何将输入数据通过各种层以及运算而得到输出。在需要模型调用的时候,使用 y_pred = model(X) 的形式即可。Keras 在 tf.keras.layers 下内置了深度学习中大量常用的的预定义层,同时也允许我们自定义层。

  Keras 模型以类的形式呈现,我们可以通过继承 tf.keras.Model 这个 Python 类来定义自己的模型。在继承类中,我们需要重写 __init__() (构造函数,初始化)和 call(input) (模型调用)两个方法,同时也可以根据需要增加自定义的方法。  

class MyModel(tf.keras.Model):

  def __init__(self):

  super().__init__() # Python 2 下使用 super(MyModel, self).__init__()

  # 此处添加初始化代码(包含 call 方法中会用到的层),例如

  # layer1 = tf.keras.layers.BuiltInLayer(...)

  # layer2 = MyCustomLayer(...)

  def call(self, input):

  # 此处添加模型调用的代码(处理输入并返回输出),例如

  # x = layer1(input)

  # output = layer2(x)

  return output

  # 还可以添加自定义的方法

 

  继承 tf.keras.Model 后,我们同时可以使用父类的若干方法和属性,例如在实例化类 model = Model() 后,可以通过 model.variables 这一属性直接获得模型中的所有变量,免去我们一个个显式指定变量的麻烦。

  上一章中简单的线性模型 y_pred = a * X + b ,我们可以通过模型类的方式编写如下:  

import tensorflow as tf

  X = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]])

  y = tf.constant([[10.0], [20.0]])

  class Linear(tf.keras.Model):

  def __init__(self):

  super().__init__()

  self.dense = tf.keras.layers.Dense(

  units=1,

  activation=None,

  kernel_initializer=tf.zeros_initializer(),

  bias_initializer=tf.zeros_initializer()

  )

  def call(self, input):

  output = self.dense(input)

  return output

  # 以下代码结构与前节类似

  model = Linear()

  optimizer = tf.keras.optimizers.SGD(learning_rate=0.01)

  for i in range(100):

  with tf.GradientTape() as tape:

  y_pred = model(X) # 调用模型 y_pred = model(X) 而不是显式写出 y_pred = a * X + b

  loss = tf.reduce_mean(tf.square(y_pred - y))

  grads = tape.gradient(loss, model.variables) # 使用 model.variables 这一属性直接获得模型中的所有变量

  optimizer.apply_gradients(grads_and_vars=zip(grads, model.variables))

  print(model.variables)

  这里,我们没有显式地声明 a 和 b 两个变量并写出 y_pred = a * X + b 这一线性变换,而是建立了一个继承了 tf.keras.Model 的模型类 Linear 。这个类在初始化部分实例化了一个 全连接层 ( tf.keras.layers.Dense ),并在 call 方法中对这个层进行调用,实现了线性变换的计算。如果需要显式地声明自己的变量并使用变量进行自定义运算,或者希望了解 Keras 层的内部原理,请参考 自定义层。

  Keras 的全连接层:线性变换 + 激活函数

  全连接层 (Fully-connected Layer,tf.keras.layers.Dense )是 Keras 中最基础和常用的层之一,对输入矩阵

  f(AW+b) 的线性变换 + 激活函数操作。如果不指定激活函数,即是纯粹的线性变换

  具体而言,给定输入张量 input = [batch_size, input_dim] ,该层对输入张量首先进行 tf.matmul(input, kernel) + bias 的线性变换( kernel 和 bias 是层中可训练的变量),然后对线性变换后张量的每个元素通过激活函数 activation ,从而输出形状为 [batch_size, units] 的二维张量。

  大连做人流哪里好 http://www.dl-fkw.com/

在这里插入图片描述

 

  其包含的主要参数如下:

  units :输出张量的维度;

  activation :激活函数,对应于

  默认为无激活函数( a(x) = x )。常用的激活函数包括 tf.nn.relu 、 tf.nn.tanh 和 tf.nn.sigmoid ;

  use_bias :是否加入偏置向量 bias ,即

  默认为 True ;

  kernel_initializer 、 bias_initializer :权重矩阵 kernel 和偏置向量 bias 两个变量的初始化器。默认为 tf.glorot_uniform_initializer 1 。设置为 tf.zeros_initializer 表示将两个变量均初始化为全 0;

  该层包含权重矩阵 kernel = [input_dim, units] 和偏置向量 bias = [units] 2 两个可训练变量,对应于 f(AW + b) 中的 W 和 b。

  为什么模型类是重载 call() 方法而不是 __call__() 方法?

  在 Python 中,对类的实例 myClass 进行形如 myClass() 的调用等价于 myClass.__call__() 。那么看起来,为了使用 y_pred = model(X) 的形式调用模型类,应该重写 __call__() 方法才对呀?原因是 Keras 在模型调用的前后还需要有一些自己的内部操作,所以暴露出一个专门用于重载的 call() 方法。 tf.keras.Model 这一父类已经包含 __call__() 的定义。 __call__() 中主要调用了 call() 方法,同时还需要在进行一些 keras 的内部操作。这里,我们通过继承 tf.keras.Model 并重载 call() 方法,即可在保持 keras 结构的同时加入模型调用的代码。

  Keras 中的很多层都默认使用 tf.glorot_uniform_initializer 初始化变量,关于该初始化器可参考 https://www.tensorflow.org/api_docs/python/tf/glorot_uniform_initializer 。

  tf.matmul(input, kernel) 的结果是一个形状为 [batch_size, units] 的二维矩阵,这个二维矩阵要如何与形状为 [units] 的一维偏置向量 bias 相加呢?事实上,这里是 TensorFlow 的 Broadcasting 机制在起作用,该加法运算相当于将二维矩阵的每一行加上了 Bias 

 


更多精彩内容请访问FlyAI-AI竞赛服务平台;为AI开发者提供数据竞赛并支持GPU离线训练的一站式服务平台;每周免费提供项目开源算法样例,支持算法能力变现以及快速的迭代算法模型。

挑战者,都在FlyAI!!!

【项目】TensorFlow 2训练一个简单线性模型 数据读取与预处理:通过 Pandas 加载数据并划分为训练集和测试集。模型构建:使用 TensorFlow 的Sequential模型和全连接层来构建一个简单的线性回归模型。编译与训练:选择合适的损失函数(MSE)和优化器(SGD),并通过训练数据对模型进行训练。评估与预测:通过计算均方误差来评估模型在测试集上的表现。这个简单的例子展示了如何使用 TensorFlow 2 来训练一个线性回归模型。虽然这个例子非常基础,但它涵盖了机器学习模型的主要步骤:数据加载、模型构建、训练和评估。 阅读详情

相关推荐

速成教程:TensorFlow如何实现简单的模型训练

简单线性回归训练模型代码 import tensorflow as tf import os os.environ['TF_CPP_MIN_LOG_LEVEL']='2' tf.app.flags.DEFINE_integer("max_step", 200, "训练模型的步数") # 训练步数 tf.app.flags.DEFINE_string("model_path", ...

tigerlib的博客 3793

Tensorflow学习笔记2-Keras六步法搭建神经网络模型

六步法实现模型搭建 导入相关模块 导入训练集与测试集 搭建网络结构 配置训练方法 执行训练方法 打印出网络结构,参数统计 基本元素介绍 一、激活函数 激活函数是用来加入非线性因素的,因为线性模型的表达能力不够。引入非线性激活函数,可使深 层神经网络的表达能力更加强大。激活函数非线性时,多层神经网络可逼近所有函数 常见的激活函数有 sigmoid、relu、softmax 小提示:平时在使用时,最后输出用softmax,其余基本都用relu 二、损失函数 神经网络模型的效果及优化的目标是通过损失函数来定义

qq_44711932的博客 912

Tensorflow 2.0 LSTM训练模型

说到lstm之前需要说一下循环神经网络(Recurrent Neural Network,RNN), RNN是一种用于处理序列数据的神经网络。相比一般的神经网络来说,他能够处理序列变化的数据,特别是时间序列数据。比如某个单词的意思会因为上文提到的内容不同而有不同的含义,RNN就能够很好地解决这类问题。 但RNN有个关键问题,在处理长序列后面时出现梯度消失和梯度爆炸的问题,lstm正好解决了这个问题...

XH生信和机器学习空间 4328

TensorFlow笔记【五】六步法搭建神经网络

六步法搭建神经网络

科小勒的博客 843

TensorFlow 2.0 快速入门——保姆级别学会训练模型, test ok

入门就是这么个如法,之后我在继续的研究,入门容易坚持难,看我是否可以成功的坚持下来吧,其实最近的事情还是挺多的,唉,加油吧。

小硕算法工程师 1534

tensorflow2.0训练目标检测模型

1.环境搭建与软件安装 操作系统:win10 64位 内存 :8G Anaconda3-5.0.1 (自带python3.6.5) tensorflow2.5.0 1.1 Anaconda3-5.0.1版本安装包下载、安装流程、环境配置 参考https://www.freesion.com/article/93321279940/ 验证:点开菜单栏—>Anaconda3—>Anaconda prompt—>以管理员身份运行—>输入python,如下图所示,Anacon.

weixin_48672949的博客 3281

六步法利用tensorflow搭建神经网络八股

六步法利用tensorflow搭建神经网络八股1.准备工作Ⅰ.已安装python3环境的电脑Ⅱ.python开发ide(如pycharm、jupyter notebook等)Ⅲ.在python环境中安装tensorflow2.x库1.正式开发Ⅰ.importⅡ.train testⅢ.model = tf.keras.models.Sequential()Ⅳ.model.compile()Ⅴ.model.fit()Ⅵ.model.summary()3.完整代码 1.准备工作 Ⅰ.已安装python3环境的电

qq_44973776的博客 785

tensorflow2 模型建立与训练

tensorflow2 模型建立与训练

qq_40107571的博客 945

tensorflow学习(一):六步法搭建神经网络

前言 本系列文章是根据北大教授曹健老师的tensorflow笔记改写而成,我个人的版本情况: anaconda: 4.3.21 python:3.6.0 tensorflow:1.7.0 keras: 2.1.6 pycharm:2017.2.3 代码实现 #第一步:import库 import tensorflow as tf #第二步:输入网络的测试集和验证集 mnist = tf.keras.datasets.mnist (x_train, y_train), (x_test, y_test) = m

sdsc1314的博客 917

一文读懂Cache一致性原理

本文介绍了为什么需要维护cache一致性、一致性协议的本质和类别,以及如何设计一致性协议。

W1Z1Q的专栏 6838

SDIO协议

SDIO协议1 概述  SDIO,全称:Secure Digital Input and Output ,即安全数字输入输出接口。2 特点①与多媒体卡系统规格书版本4.2全兼容。支持三种不同的数据总线模式:1位(默认)、4位和8位。②与较早的多媒体卡系统规格版本全兼容(向前兼容)。③与SD存储卡规格版本2.0全兼容。④与SD I/O卡规格版本2.0全兼容:支持两种不同的数据总线模式:1位(默认)和4

Let the development board fly! 3万+

使用TensorFlow 搭建神经网络的六步法

使用TensorFlow API:tf.keras 搭建神经网络 搭建神经网络六步法: 1.导入第三方库:import 2.导入并理解数据,划分训练集与测试集:train test 3.在Sequential()中搭建网络结构。逐层描述每层网络,相当于前向传播。:model=tf.keras.models.Sequential 4.在compile中配置训练方法。即选择哪种优化器,选择哪个损失函数,选择哪种评测指标。model.compile 5.在fit中进行训练。告知训练集和测试集的输入特征和标签。每个

waner_jiaki的博客 2563

地理空间智能体(GI Agent)

地理空间智能体(Geospatial Intelligence Agent, GI Agent)是AI Agent技术与地理信息系统(GIS)深度融合的产物。其核心是以大型语言模型(LLM)为驱动,通过自然语言理解、任务分解和工具调用能力,实现地理空间任务的自动化执行。​关键特性​自主性​:独立规划任务流程(如空间数据检索、分析、可视化);​交互性​:支持自然语言对话交互,替代传统图形界面操作;​扩展性​:灵活集成第三方工具和API,支持跨平台协作。

百态·数智思维 | 聚焦大数据、量化与未来AI 2032

【Tensorflow教程笔记】Tensorflow模型建立与训练

Tensorflow教程笔记 TensorFlow 基础 TensorFlow 模型建立与训练 目录Tensorflow教程笔记模型(Model)与层(Layer)Keras 的全连接层:线性变换 + 激活函数为什么模型类是重载 `call()` 方法而不是 `__call__()` 方法? 本章介绍如何使用 TensorFlow 快速搭建动态模型。 模型的构建: tf.keras.Model 和 tf.keras.layers 模型的损失函数: tf.keras.losses 模型的优化器: tf.k

nanke_4869的博客 6788

WinCC与施耐德PLC的Modbus TCP通信实战指南

本文详细解析了西门子WinCC与施耐德PLC通过Modbus TCP协议实现通信的完整实战流程。内容涵盖硬件网络配置、Modbus地址映射核心规则、WinCC驱动连接建立、变量创建及高级数据访问技巧,并提供了常见故障排查思路,帮助工程师高效解决跨品牌设备通信难题。

weixin_29194693的博客 1001

linux cma alloc fail 问题分析

摘要:日志显示CMA连续内存分配失败(错误码-ENOMEM),请求128页(512KB)内存时因CMA区域不足或内存碎片导致失败。分析发现系统CMA总内存131072KB,空闲65536KB。解决方案包括:1)手动触发内存碎片整理;2)修改设备树或内核配置增大CMA区域(如从16MB增至20MB)。通过调整CONFIG_CMA_SIZE_MBYTES或设备树中的size参数可解决该问题。

陌上花开缓缓归以的博客 797

tensorflow2.0建立MobilenetV3网络并进行训练与预测

tensorflow2.0建立MobilenetV3网络并进行训练与预测Step1:前言Step2:建立bneck卷积块激活函数轻量级注意力模型bneck的建立Step3:构建MobilenetV3_small网络Step4:如何调用建立的MobilenetV3进行训练训练数据的形式与预处理。训练数据的调用训练方式1:使用原始数据训练训练方式2:使用别人的预训练权值进行训练(迁移学习)Step5:如何利用训练好的MobilenetV3模型进行预测 Step1:前言 之所以采用tensorflow2.0来建立

ahhhhhh520的博客 4183

Python爬虫实战:微信小程序内容采集的全面指南

在移动互联网时代,微信小程序已成为企业和个人提供服务的重要渠道。小程序中包含了大量有价值的信息,但微信官方并未提供便捷的数据获取接口。本文将详细介绍如何使用Python爬虫技术采集微信小程序内容,包括最新技术方案、完整代码实现以及应对各种反爬机制的策略。小程序运行在微信封闭环境中,无法直接访问数据通信主要通过HTTPS加密传输内容动态加载,依赖JavaScript渲染微信有严格的反爬机制。

2201_76125261的博客 3116

TensorFlow 2.0 快速入门——手把手学会训练模型

TensorFlow训练你的第一个人工智能模型!!!有源码,有升级,详解释!!!

WenJGo的博客 1万+

Cadence PSpice 仿真0:绘制电路图方法图文教程

在使用PSpice进行电路的仿真时,首先需要使用带有PSpice模型的元器件来绘制电路图,本文简单介绍进行电路图绘制是常用的几种需要掌握的方法,以满足PSpice仿真绘制简单电路图所用。

fydar的博客 4703

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

tensorflow保存训练好的模型以及使用模型

有时候我们训练好了一个模型,效果还不错。那么如何保存这个模型,以便下次有新的数据时可以使用这个模型来进行预测呢?接下来我就以我的上一篇博客为基础进行模型的保存。 完整代码见https://github.com/saynHuang/tensorflow_exercise/tree/master/2019-03-21 保存模型 具体模型训练的代码在上一篇博客讲得很清楚了,这次主要在原有的基础上进行改进...

weixin_43152925的博客 1万+

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

TensorFlow 2.0 —— 模型训练

目录1、Keras版本模型训练1.1 回调函数1.2 构造模型(顺序模型、函数式模型、子类模型)1.3 模型训练:model.fit()1.4 模型验证:model.evaluate()1.5 模型预测:model.predict()1.6 使用样本加权和类别加权2、正向传播与反向传播3、自动求导方法4、自定义模型训练 1、Keras版本模型训练 1.1 回调函数 ModelCheckpoint:定期保存模型; EarlyStopping:当训练不再改善验证指标时,停止训练; TensorBoard:定期

然后就去远行 7140

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

tensorflow 2.0+ 基于预训练BERT模型 的文本分类

简介 基于transformers的语言模型在许多不同的自然语言处理(NLP)基准任务测试上都取得了很大进展。迁移学习与大规模的transformers语言模型训练的结合正在成为现代NLP的一个标准。在这篇文章,我们对transformers体系结构和文本分类问题做一些必要的理论介绍。然后,我们将演示预训练BERT模型在文本分类任务的微调过程,这里运用的是TensorFlow 2.0+的 Keras API。 文本分类–问题及公式 一般来说, 分类是确定新样本的类别问题。我们有数据集D,在文档中包含文本

xiaoniu0991的博客 9230

TensorFlow2.0教程-使用keras训练模型

TensorFlow2.0教程-使用keras训练模型 完整tensorflow2.0教程代码请看tensorflow2,0:中文教程tensorflow2_tutorials_chinese(欢迎star) # !pip install -q pydot # !apt-get install graphviz from __future__ import absolute_import, di...

知行_那片天 1万+

TensorFlow2.X之使用图片制作简单的数据集训练模型

Tensorflow2.x之使用自己的数据集训练模型 Tensorflow内置了许多数据集,但是实际自己应用的时候还是需要使用自己的数据集,这里TensorFlow 官网也给介绍文档,官方文档。这里对整个流程做一个总结(以手势识别的数据集为例)。 1、 收集手势图片 方法多种多样了。我通过摄像头自己采集了一些手势图片。保存成如下形式, 以同样的形式在建立一个测试集,当然也可以不弄,在程序里处理...

FlyDremever 5497
上一篇: Tensorflow教程分享:TensorFlow 基础详解
下一篇: Tensorflow基础教程4:卷积神经网络(CNN)介绍
iFlyAI
博客等级 码龄9年 238粉丝 134原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值