学习填坑记录

本文详细记录了深度学习模型构建过程中遇到的问题及其解决方案,包括tf.keras.layers.Lambda的匿名函数处理、数值数据的分桶和编码、张量的乘积与求和操作、注意力机制的逻辑回归、特征交叉、因子分解机模型等,同时探讨了特征处理、权重初始化、dropout正则化、指数计算等关键技巧,以及不定长数据的处理和模型保存为pb格式的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1、tf.keras.layers.Lambda()——匿名函数层解析

https://www.codenong.com/cs105908829/

作用:可以对输入的tensor进行处理

2、tf.keras.layers.experimental.preprocessing.Discretization

https://www.tensorflow.org/api_docs/python/tf/keras/layers/experimental/preprocessing/Discretization

可以对数值型数据进行边界分桶特征处理

3、keras.layers.experimental.preprocessing.IntegerLookup

https://www.tensorflow.org/api_docs/python/tf/keras/layers/experimental/preprocessing/IntegerLookup

作用:可以对数值型特征进行oneHot或者multihot编码处理

4、keras.layers.Multiply()

https://keras.io/zh/layers/merge/

作用:

计算输入张量列表的(逐元素间的)乘积。

它接受一个张量的列表, 所有的张量必须有相同的输入尺寸, 然后返回一个张量(和输入张量尺寸相同)。

5、mlr——带有注意力机制的lr

https://zhuanlan.zhihu.com/p/129582122

对lr分段加权

6、tf.add_n函数的用法

https://blog.youkuaiyun.com/UESTC_C2_403/article/details/72808839

作用:

实现一个列表的元素的相加。就是输入的对象是一个列表,列表里的元素可以是向量,矩阵,等

7、keras在特征处理时做特征交叉

fea1 = tf.keras.layers.Input(shape=(1,), name="fea1", dtype=tf.int64)
fea2= tf.keras.layers.Input(shape=(1,), name="fea2", dtype=tf.int64)
fea1_x_fea2_layer = tf.keras.layers.experimental.preprocessing.CategoryEncoding(max_tokens=200)(
    tf.keras.layers.experimental.preprocessing.Hashing(num_bins=200)(inputs=[fea1, fea2]))

8、因子分解机模型——poly2

https://zhuanlan.zhihu.com/p/153500425

9、keras.layers.Dot

https://keras.io/zh/layers/merge/

两个向量求点积,即得到一个标量。

10、keras.layers.Add()

https://www.yaohong.vip/post/machinelearning/howtensorflowkerasaddtwolayer/

两个tensor(shape相同)求和,各元素求和。

11、layers.Layer.add_weight(shape=(input_dim, unit),
                                     initializer=keras.initializers.RandomNormal(),
                                     trainable=True)

https://zhuanlan.zhihu.com/p/59481536

构建权重

12、tf.nn.embedding_lookup

https://www.zhihu.com/question/52250059

作用:根据给定的key(index)从提前layers.Layer.add_weight中获取对应位置的参数值

13、keras.layers.Embedding和keras.layers.Flatten

keras.layers.Embedding(
    input_dim=1000, output_dim=10)

会生成

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值