什么是 fine-turning?
                                                            生活随笔
收集整理的這篇文章主要介紹了
                                什么是 fine-turning?
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.                        
                                fine-tuning就是使用已用于其他目標、預訓練好模型的權重或者部分權重,作為初始值開始訓練。
那為什么我們不用隨機選取選幾個數作為權重初始值?原因很簡單,第一,自己從頭訓練卷積神經網絡容易出現問題;第二,fine-tuning能很快收斂到一個較理想的狀態,省時又省心。
那fine-tuning的具體做法是?
   ? 復用相同層的權重,新定義層取隨機權重初始值
   ? 調大新定義層的的學習率,調小復用層學習率
總結
以上是生活随笔為你收集整理的什么是 fine-turning?的全部內容,希望文章能夠幫你解決所遇到的問題。
 
                            
                        - 上一篇: 安川机器人之MotoPlus编程
- 下一篇: Kepware.KEPServer安装
