Task03 召回模型：YoutubeDNN、DSSM

原创

已于 2022-06-24 18:01:33 修改 · 1k 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习 #pytorch #神经网络

于 2022-06-24 16:32:17 首次发布

本文介绍了召回模型DSSM和应用于YouTube推荐的DNN模型。DSSM采用双塔结构，独立处理用户和广告特征，通过相似度计算进行召回。YouTubeDNN分为召回和排序阶段，召回阶段主要考虑用户历史视频、搜索行为和人文特征，通过动态向量表示用户，并使用Word2Vec或Embedding Layer得到视频向量，提高召回效率。

Task03 召回模型：YoutubeDNN、DSSM

一、DSSM（双塔模型----召回模型）

DSSM-Learning Deep Structured Semantic Models for Web Search using Clickthrough Data
DSSM（Deep Structured Semantic Models ，深度语义模型）是2013年微软发表的一篇论文，本用于语义匹配，后被移植到推荐系统等各个场景，成为经典的双塔模型。
原理：

在这里插入图片描述

DSSM双塔结构，两侧分别输入user特征和ad特征，经过DNN变换后分别产出user向量和ad向量。DSSM最大的特点是user侧和ad侧是独立的两个子网络，可以离线产出user embedding和ad embedding，召回时只需要计算二者的相似度。

代码实现：

class DSSM(torch.nn.Module):    
    def __init__(self, user_features, item_features, user_params, item_params, temperature=1.0):
        super().__init__()
        self.user_features = user_features
        self.item_features = item_features
        self.temperature = temperature
        self.user_dims = sum([fea.embed_dim for fea in user_features])
        self.item_dims = sum([fea.embed_dim for fea in item_features])

        self.embedding = EmbeddingLayer(user_features + item_features)
        self.user_mlp = MLP(self.user_dims, output_layer=False, **user_params)
        self.item_mlp = MLP(self.item_dims, output_layer=False, **item_params)
        self.mode = None

    def forward(self,<