Adam 優化器 Adaptive Moment Estimation
Adam 優化器 Adaptive Moment Estimation 是訓練神經網絡最廣泛使用的梯度下降變體，2015 年由 Kingma 與 Ba 提出。它的核心思想是為每個參數分別維護兩個指數移動平均：梯度的一階矩（均值，類似動量）與二階矩（未中心化方差），再用兩者調整每個參數的實際更新步伐，令更新方向平穩、步長自適應。相較傳統隨機梯度下降（SGD）對所有參數使用同一學習率，Adam 收斂通常更快、對初始學習率的敏感度較低，常用的預設學習率為 0.001。要注意：Adam 並非萬能，部分任務上經過細心調校的 SGD 泛化能力反而更佳，選擇優化器應視乎模型與數據特性。
相關筆記：機器學習實作 Lab 7：用 SVM、隨機森林與神經網絡預測價差
🏦 ZA Bank 開戶優惠
本站所有內容免費提供。多使用網站的推薦碼，就是對我們繼續製作優質內容的最大鼓勵和支持 🙏
去 ZA Bank 開戶，享價值 HKD 2,000 迎新獎賞，仲有機會享 USD 30 指定美股兌換券！
- 💛 全線上開戶，無需前往分行
- 💛 無最低存款要求，零賬戶管理費
- 💛 24x7 銀行服務
專屬邀請碼：P20923
立即開戶 → （聯盟連結）
冇開銀行戶口的需要？經本站免費開 FTMO 14 天試用帳戶（聯盟連結｜不用付一分錢），同樣是支持本站的最大鼓勵。
投資涉及風險。受條款及細則約束。此資料僅可於香港境內分發或傳閱。
🎯 準備好接受 Prop Firm 挑戰？
Prop Firm＝自營交易公司：你出技術、它出資金（FTMO 最高 $200K），盈利最高分成 90%，虧損由模擬帳戶承擔、不向你追討。未聽過？5 分鐘入門 →
本站推薦由 FTMO 開始——業界歷史最悠久、出金紀錄最透明的 Prop Firm 之一：挑戰費用於首次分潤時全數退還、利潤分成高達 90%，更設不限次數的 14 天免費試用，先驗證自己的策略與心態，零沉沒成本決定是否報考。
按本站連結進入後，點擊圖中「Free Trial」按鈕即可開始：
免費開 14 天試用帳戶 → （聯盟連結｜優惠及條款以官網最新公佈為準）
未決定選哪一家？先讀本站實測整理：五大 Prop Firm 規則比較 →