<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[day_up的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/day_up</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; day_up]]></copyright><item><title><![CDATA[MOE的负载均衡实践]]></title><link>https://blog.youkuaiyun.com/day_up/article/details/151450644</link><guid>https://blog.youkuaiyun.com/day_up/article/details/151450644</guid><author>day_up</author><pubDate>Thu, 11 Sep 2025 00:25:18 +0800</pubDate><description><![CDATA[MOE的负载均衡包含两部分：TOKEN选择专家的均衡以及每个专家处理样本的均衡4。代表变异系数，是方差与均值的比值，其值趋近于0，代表方差越小，专家越均衡。那么选择专家均衡的公式就是专家重要性的正则。是超参数，代表该部分Loss计算的比重。]]></description><category></category></item></channel></rss>