MMoE: 不一定适合业务场景
输入向量（包含四种特征）到三个神经网络（专家），不共享参数。实践中超参数专家神经网络个数需要调，会尝试4个或者8个专家。
左边另一个神经网络softmax输出的向量，三个元素均为正数，合为1，作为权重，计算x1 x2 x3 的加权平均。
右边的一样输出作为权重。
极化现象：没有融合多个专家
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
