背景
近来xLSTM比较热门,网上也有很多用xLSTM结合Transformer的示例,也就是将xLSTM放到了Encoder里面。这也是合理的,因为Encoder本身就就编码的过程,放入xLSTM理论上能提升信息提取能力。
再有就是,Transfomer接收的输入是[批大小,序列长度,维度]。但对于一维序列,这个维度就是1,总觉得不大好,于是把原始序列折叠成了序列长度x维度进行输入。
以下是完整介绍:
程序在闲鱼上,价格19。原谅我没免费提供源代码- -确实是花了不少时间整理的。
【闲鱼链接】:https://m.tb.cn/h.T21o8Ez?tk=LFxn3GBqJyA HU9196
如果链接失效,可在闲鱼搜索:耐心的等待5283,然后点“用户”即可找到个人主页下的程序
Pyt