本發(fā)明涉及以自適應學習率學習神經(jīng)網(wǎng)絡的方法及裝置、利用其測試神經(jīng)網(wǎng)絡的方法及裝置。所述學習方法包括:(a)學習裝置在預設了作為用于調(diào)整學習率變更比例的常數(shù)的第一伽馬的狀態(tài)下,(i)在所述迭代累積次數(shù)在第一特定值以下期間,執(zhí)行利用訓練數(shù)據(jù)中的一部分以第一預設的學習率反復所述神經(jīng)網(wǎng)絡的所述學習的第一學習過程,(ii)參照通過所述第一學習過程獲得的所述神經(jīng)網(wǎng)絡的第一損失將所述第一伽馬變更為第二伽馬的步驟;(b)所述學習裝置在將k從2增大到(n?1)的過程中,(b1)在所述迭代累積次數(shù)超過第(k?1)特定值且在第k特定值以下期間,執(zhí)行反復所述神經(jīng)網(wǎng)絡的所述學習的第k學習過程等過程的步驟。本發(fā)明能夠最小化學習神經(jīng)網(wǎng)絡所需的時間。
聲明:
“以自適應學習率學習神經(jīng)網(wǎng)絡的方法及裝置” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業(yè)用途,請聯(lián)系該技術所有人。
我是此專利(論文)的發(fā)明人(作者)