正則化 Regularization

⚠️ 本站內容僅作教育用途,不構成投資建議。投資涉及風險,作出任何投資決定前請諮詢持牌專業人士。

正則化 Regularization 是機器學習中抑制過度擬合的一類技術:在原本只量度預測誤差的成本函數上,額外加入與參數規模掛鈎的懲罰項,迫使模型在「擬合訓練數據」與「保持簡單」之間取得平衡。最常見的形式是 L2 懲罰(把權重平方和乘上系數加進成本函數,又稱權重衰減)與 L1 懲罰(用權重絕對值之和,有篩選特徵的效果);在神經網絡中亦有丟棄法(dropout)、提早停止等變體。懲罰系數屬超參數,須以驗證集調校:太小則形同虛設,太大則模型欠擬合、連真實規律也學不到。在金融數據這種信噪比極低的場景,正則化幾乎是標配,但須記住它只能降低風險,不能保證模型在樣本外有效。

相關筆記:機器學習與配對交易 Pairs Trading:用 SVM、隨機森林、神經網絡預測價差

🏦 ZA Bank 開戶優惠

本站所有內容免費提供。多使用網站的推薦碼,就是對我們繼續製作優質內容的最大鼓勵和支持 🙏

去 ZA Bank 開戶,享價值 HKD 2,000 迎新獎賞,仲有機會享 USD 30 指定美股兌換券!

  • 💛 全線上開戶,無需前往分行
  • 💛 無最低存款要求,零賬戶管理費
  • 💛 24x7 銀行服務

專屬邀請碼:P20923

立即開戶 → (聯盟連結)