【人工智能笔记】第三十五节:TF2实现VITGAN对抗生成网络,MLP 实现

VS2022命令行编译C++报错?一招解决‘fatal error C1034: iostream: 不包括路径集‘ 本文针对VS2022命令行编译C++时常见的'fatal error C1034: iostream: 不包括路径集'错误,深入剖析了其根源在于环境变量缺失。文章提供了永久配置用户环境变量(PATH、INCLUDE、LIB)的一劳永逸解决方案,确保在任何终端中都能直接使用cl命令进行编译,并给出了进阶配置与常见错误排查指南。 阅读详情

网络结构图
该章节介绍VITGAN对抗生成网络中,MLP 部分的代码实现。

目录(文章发布后会补上链接):

  1. 网络结构简介
  2. Mapping NetWork 实现
  3. PositionalEmbedding 实现
  4. MLP 实现
  5. MSA多头注意力 实现
  6. SLN自调制 实现
  7. CoordinatesPositionalEmbedding 实现
  8. ModulatedLinear 实现
  9. Siren 实现
  10. Generator生成器 实现
  11. PatchEmbedding 实现
  12. ISN 实现
  13. Discriminator鉴别器 实现
  14. VITGAN 实现

MLP 简介

Generator生成器
MLP层由两层全连接组成,中间加上gelu激活函数。其中ISN层在判别器中会用到,在后面章节实现。

代码实现

import tensorflow as tf
import sys

sys.path.append('')

from models.isn import ISN


class MLP(tf.keras.layers.Layer):
    def __init__(
        self,
        d_model,
        discriminator,
        dropout,
    ):
        super().__init__()
        self.discriminator = discriminator  # 是否鉴别器
        self.dn1 = tf.keras.layers.Dense(d_model*4, use_bias=False, activation='relu', kernel_regularizer='l2')
        self.dropout1 = tf.keras.layers.Dropout(dropout)
        self.dn2 = tf.keras.layers.Dense(d_model, use_bias=False, kernel_regularizer='l2')
        self.dropout2 = tf.keras.layers.Dropout(dropout)
        if discriminator:
            self.dn1 = ISN(self.dn1)
            self.dn2 = ISN(self.dn2)

    def call(self, x, training):
        x = self.dn1(x)
        x = tf.nn.gelu(x)
        x = self.dropout1(x, training=training)
        x = self.dn2(x)
        x = self.dropout2(x, training=training)
        return x


if __name__ == "__main__":
    layer = MLP(
        d_model=768,
        discriminator=False,
        dropout=0.0,
    )
    x = tf.random.uniform([2, 5, 128], dtype=tf.float32)
    o1 = layer(x)
    tf.print('o1:', tf.shape(o1))

参考资料:

STM32F105双路CAN通讯无法进入接收中断问题及解决方法 STM32F105RBT6双路CAN通讯无法进入接收中断问题及解决方法 阅读详情

相关推荐

概率论 知识图谱 + 实战案例解析

本文通过构建概率论知识图谱,系统梳理了从随机试验、概率、条件概率到随机变量与分布的核心概念及其内在联系。结合朴素贝叶斯分类器和蒙特卡洛模拟等实战案例,深入解析了条件概率、独立性及大数定律等理论如何应用于机器学习与实际问题求解,旨在帮助读者建立结构化思维,将理论有效转化为解决实际问题的能力。

weixin_29051193的博客 267

TF2.0 MLP模型训练报警告

问题: WARNING:tensorflow:Falling back from v2 loop because of error: Failed to find data adapter that can handle input: <class ‘pandas.core.frame.DataFrame’>, <class ‘NoneType’> 原因: 这个警告是由于直接将pandas的数据输入进模型训练造成的。 解决方法: 忽略 import warnings warni

xcyja的博客 1576

华为S5720交换机堆叠配置

S5720交换机,做下堆叠,两条线,交叉互联(即A交换机23口连到B交换机24口,A交换机24口连接B交换机23口)。PS:S5720堆叠可基于电口或者光口做,本次测试基于电口。 SWA配置 # 改名 [Huawei]sysname SWA # 最好先shutdown接口 [SWA]interface GigabitEthernet 0/0/23 [SWA-GigabitEthernet0/0/23]shutdown [SWA-GigabitEthernet0/0/23]interface G.

Markdown 6340

tensorflow2.0(一)----多层感知机(MLP)

在TensorFlow 1.X版本中, 调用 tf.enable_eager_execution() 函数启动Eager Execution模式。在TensorFlow 2.0版本中,Eager Execution模式成为默认模式,无需额外调用tf.enable_eager_execution() 函数(不过若要关闭Eager Execution,则需调用tf.compat.v1.disable_eager_execution() 函数) tensorflow使用tensor(张量)作为数据的基本单元。在概

weixin_43648821的博客 792

WPF的基础设施:XAML基础语法

XAML是WPF的核心标记语言,采用XML语法实现界面与逻辑分离。其基础语法包括:1)控件声明方式(特性语法和属性元素语法);2)x:Name与Name的区别(适用范围和编译行为);3)注释规范与代码折叠技巧;4)实用特性如属性继承、附加属性等。文章还提供了常见错误排查方法,建议通过实践练习掌握XAML开发技巧。全文系统介绍了XAML的核心语法与应用场景,是WPF开发者的基础学习指南。

Hare的博客 1756

YOLOv13涨点改进| CVPR 2026 |独家创新首发、主干改进篇 |利用RIS-PiDiNet主干让YOLOv13更加强大!适合遥感目标检测、小目标检测、旋转目标检测,变化检测,图像分割涨点

🔥本文提出了一种改进的RIS-PiDiNet主干网络,通过引入几何先验构建几何一致性检测器,显著提升了模型在任意方向、结构规则目标场景下的检测性能。包含两个核心模块:S-PDC利用极谐变换的谐波核建模目标结构对称性,RIS-PDC通过SO(2)群平均实现旋转不变性。网络采用基于RIS-block的主干结构并融合轻量级LBP特征,增强了细粒度结构表达能力。实验表明,该方法特别适用于遥感和复杂几何分布场景,能有效提升目标检测的鲁棒性和精度。文章还详细介绍了如何将RIS-PiDiNet集成到YOLOv13框架

Ai缝合怪、助力小伙伴高效发论文 90

TensorFlow2 学习——MLP图像分类

文章目录TensorFlow2学习——图像分类导包原始数据数据作图数据划分与标准化构建模型并训练模型评估与预测其他:回调Callback的使用 TensorFlow2学习——图像分类 导包 import matplotlib.pyplot as plt import numpy as np import pandas as pd import tensorflow as tf from sklea...

蒋含竹的博客 3178

从 30 天试用到企业级落地,2026 年学习和试用 SAP AI 的完整路线图

摘要:SAP AI产品体系存在试用版本与商业版本的边界模糊问题,需区分业务嵌入AI(如Joule)、开发者工具(SAP Build Code)和AI基础平台(Generative AI Hub)三个层级。建议学习路径:1)通过SAP Learning专区掌握理论框架;2)优先使用30天Generative AI Hub基础试用体验模型编排;3)结合90天BTP试用账户开发完整应用。特别注意免费计划已陆续停止,需以最新官方文档为准。开发者应重点关注AI如何与SAP技术栈(CAP、Fiori等)集成,而非单纯功

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 114

tf2实现vit的transformer encoder构成的主要层

import os os.environ["CUDA_VISIBLE_DEVICES"]="-1" # 使用cpu import tensorflow as tf from tensorflow.keras.layers import (Layer,Conv2D,LayerNormalization,Dense, Input,Dropout,Softmax,Add) from tensorflow.keras.models im...

sdhdsf132452的博客 512

43_AI短片实战第十六弹:AIGC补充特写镜头——首尾帧衔接与多图抽卡技巧

本文介绍了使用Templa AI平台生成"怪兽爬车"特写镜头并衔接"甩尾摔下"动作的完整流程。首先通过AI生成4张怪兽趴在车顶的特写画面,重点选择展示怪兽与车顶关系的构图(16:9比例)。然后将选定的首帧图与已有尾帧图输入AI,生成7秒左右的过渡视频,实现从"稳定趴车"到"开始摔落"的自然衔接。整个过程展示了单图抽卡策略、首尾帧选择标准,以及如何利用AI生成时间进行其他剪辑任务的并行处理方法。最终产出包括特写首帧图、过渡视频文件和更新后的剪辑项目。

Open 76

Android14 SystemUI如何实现下拉菜单栏高斯模糊背景效果(类似于毛玻璃效果)

我们都知道,从Android12起,下拉菜单栏控制中心都是黑色的,看起来非常不美观,而且国内的手机系统UI都做的比较美观,大部分的下拉菜单UI背景都是实现了高斯模糊效果,所以客户也会要求实现类似于这样的效果。在以前的Android项目中,实现下拉菜单栏的模糊背景就是通过截图的方式进行替换背景,而这种方式下拉菜单背景极易替换不了,就算是在各个地方都适配,还是有概率在复杂场景或者一些测试手法下出现背景是黑的情况,并且这种方式还比较影响性能,毕竟每次都要去截图一次,多做了额外的事。

热衷于Android Framework和系统APP的修改经验分享 1793

【人工智能笔记】第四十五节:TF2实现VITGAN对抗生成网络,VITGAN主体 实现

【人工智能笔记】第四十五节:TF2实现VITGAN对抗生成网络,VITGAN主体 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 701

HotSpot G1 GC 的分区记账、SATB 并发标记与停顿目标调优解析

线上GC毛刺该调停顿目标、加大新生代还是换收集器?本文从HotSpot G1的设计出发,梳理分区与巨型对象、卡表与记忆集、写屏障与细化线程、停顿预测、SATB并发标记、自适应IHOP、混合回收规则及Full GC兜底,并注明JDK8至JDK27的版本差异。文中在JDK8与JDK17上实测:停顿目标从200ms降到20ms,伊甸区缩小四成、P99下降但仍超目标;巨型对象会反复触发又撤销并发标记;JDK17并行Full GC平均停顿约为JDK8的三成。最后给出日志解读、参数清单、调优流程与选型。

曾经“等你生日那天”都遥远得像未来,如今却可欢愉的挥手说“下个十年见” 170万+

【人工智能笔记】第四十节:TF2实现VITGAN对抗生成网络,Siren网络 实现

【人工智能笔记】第四十节:TF2实现VITGAN对抗生成网络,Siren网络 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 555

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

【人工智能笔记】第三十四节:TF2实现VITGAN对抗生成网络,PositionalEmbedding 实现

【人工智能笔记】第三十四节:TF2实现VITGAN对抗生成网络,PositionalEmbedding 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 504

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

【人工智能笔记】第三十八节:TF2实现VITGAN对抗生成网络,CoordinatesPositionalEmbedding博里叶位置编码 实现

【人工智能笔记】第三十八节:TF2实现VITGAN对抗生成网络,CoordinatesPositionalEmbedding博里叶位置编码 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 605

【人工智能笔记】第四十二节:TF2实现VITGAN对抗生成网络,PatchEmbedding 实现

【人工智能笔记】第四十二节:TF2实现VITGAN对抗生成网络,PatchEmbedding 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 708

【人工智能笔记】第三十七节:TF2实现VITGAN对抗生成网络,SLN自调制 实现

【人工智能笔记】第三十七节:TF2实现VITGAN对抗生成网络,SLN自调制 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 301

【人工智能笔记】第三十九节:TF2实现VITGAN对抗生成网络,ModulatedLinear调制模块 实现

【人工智能笔记】第三十九节:TF2实现VITGAN对抗生成网络,ModulatedLinear调制模块 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 332

【人工智能笔记】第三十三节:TF2实现VITGAN对抗生成网络,Mapping NetWork 实现

该章节介绍VITGAN对抗生成网络中,Mapping NetWork 部分的代码实现。

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 776

【人工智能笔记】第三十六节:TF2实现VITGAN对抗生成网络,MSA多头注意力 实现

【人工智能笔记】第三十六节:TF2实现VITGAN对抗生成网络,MSA多头注意力 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 695

【人工智能笔记】第四十三节:TF2实现VITGAN对抗生成网络,ISN 实现

【人工智能笔记】第四十三节:TF2实现VITGAN对抗生成网络,ISN 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 416

【人工智能笔记】第四十四节:TF2实现VITGAN对抗生成网络,Discriminator鉴别器 实现

【人工智能笔记】第四十四节:TF2实现VITGAN对抗生成网络,Discriminator鉴别器 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 488

【人工智能笔记】第三十二节:TF2实现VITGAN对抗生成网络,网络结构简介

该系列一共分成N篇文章,对照论文实现每个细节,并附上源码,该系列完成最后会附上github地址。

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 762

【人工智能笔记】第四十一节:TF2实现VITGAN对抗生成网络,Generator生成器 实现

【人工智能笔记】第四十一节:TF2实现VITGAN对抗生成网络,Generator生成器 实现

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 384

【人工智能笔记】第二十节 efficientdet 目标检测模型,官方源码分析系列,BiFPN实现细节分析(二)

本章继续分析,BiFPN的实现部分。各种FPN结构如下: 如图,单个BiFPN有8个Node。在Efficientdet模型中,由如下类组成: FPNCells:按fpn_cell_repeats参数生成重复多个BiFPN。 FPNCell:代表单个BiFPN,包含8个Node。 FNode:将当前Node的多个输入融合,产生一个输出。 代码结构如下: FPNCells代码如下: class FPNCells(tf.keras.layers.Layer): .

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 4032

Mask RCNN训练自己的数据集(修正及windows下使用labelme)

原文参考:https://blog.youkuaiyun.com/l297969586/article/details/79140840/ labelme编译并使用: 源码:https://github.com/tfwcn/labelme 源码已改成批量转Json的文件 Logs 2018/11/8 修改成自动保存到图片目录下到json文件夹中。需预先建立文件夹。 以前用过该工具的,请先删除C:...

不定时更新AI技术tensorflow实现方式,欢迎关注,有问题请私信我。 3111
上一篇: 【人工智能笔记】第三十四节:TF2实现VITGAN对抗生成网络,PositionalEmbedding 实现
下一篇: 【人工智能笔记】第三十六节:TF2实现VITGAN对抗生成网络,MSA多头注意力 实现
PPHT-H
博客等级 码龄18年 6254粉丝 84原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

PPHT-H

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值