在推薦業務中經常有“既要、也要、還要”的場景，比如做視頻推薦業務的時候既要提升用戶對于視頻的點擊率，也希望同時提升用戶觀看視頻的時長。面對這樣的訴求，通常需要在推薦系統中使用多目標建模算法。

多目標建模目前業內有兩種模式，一種叫Shared-Bottom模式，另一種叫MOE，MOE又包含MMOE和OMOE兩種。MMOE也是Google提出的一套多目標學習算法結果，被應用到了Google的內部推薦系統中，接下來分別介紹下這些多目標算法的結構。

算法結構介紹

上圖基本能把Shared-Bottom、OMOE、MMOE講清楚。

Shared-Bottom的思路就是多個目標底層共用一套共享layer，在這之上基于不同的目標構建不同的Tower。這樣的好處就是底層的layer復用，減少計算量，同時也可以防止過擬合的情況出現。

接著就是MOE類型的算法介紹了，MOE是Mixture of experts的縮寫，也就是說MOE結構的算法底層是有多個experts組成，這些experts網絡是彼此獨立的，最終的輸出結果其實是目標在多個experts上的概率分布結果。MOE可以通過一個Gate去控制，Gate network也叫門控網絡，可以控制在不同應用場景下每個expert的參與權重。OMOE指的是one gate MOE， MMOE指的是multi gate MOE，從字面意思理解，MMOE一定是比OMOE更全面的。

效果說明

?

最終選用MOE結構的算法還是Shared-Bottom結構的呢？其實取決于業務效果。上面一張圖介紹了Shared-Bottom以及OMOE、MMOE在不同目標相關性下的的效果比對。

不難發現，無論目標Correlation是什么數值，MOE結構的算法的loss永遠低于Shared-Bottom類型的，顯然MOE結構更優。

而OMOE在目標相關性最高的情況下（Correlation=1）和MMOE的效果相似，其它情況下不如MMOE。也就是說，目標相關性越低MMOE較其它二者的優勢越明顯，相關性非常高的情況下MMOE會近似于OMOE。

另外，解釋下相關性Correlation的概念，可以理解為業務正相關性。比如點贊和踩，這兩個行為肯定是相關性很低的，如果一個模型既要支持點贊率提升，也支持踩提升，一定要選MMOE。比如收藏和點贊，這兩個目標就是相關性非常高的目標。

參考：

[1]https://zhuanlan.zhihu.com/p/55752344?edition=yidianzixun&utm_source=yidianzixun&yidian_docid=0LC8kTgk

[2]https://zhuanlan.zhihu.com/p/145288000

[3]https://www.cnblogs.com/xindi/p/12349940.html

《新程序員》：云原生和全面數字化實踐50位技術專家共同創作，文字、視頻、音頻交互閱讀

總結

以上是生活随笔為你收集整理的推荐业务多目标建模算法介绍：MMOE、OMOE、Shared-Bottom的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。