正則化 Regularization
⚠️ 本站內容僅作教育用途,不構成投資建議。投資涉及風險,作出任何投資決定前請諮詢持牌專業人士。
正則化 Regularization 是機器學習中抑制過度擬合的一類技術:在原本只量度預測誤差的成本函數上,額外加入與參數規模掛鈎的懲罰項,迫使模型在「擬合訓練數據」與「保持簡單」之間取得平衡。最常見的形式是 L2 懲罰(把權重平方和乘上系數加進成本函數,又稱權重衰減)與 L1 懲罰(用權重絕對值之和,有篩選特徵的效果);在神經網絡中亦有丟棄法(dropout)、提早停止等變體。懲罰系數屬超參數,須以驗證集調校:太小則形同虛設,太大則模型欠擬合、連真實規律也學不到。在金融數據這種信噪比極低的場景,正則化幾乎是標配,但須記住它只能降低風險,不能保證模型在樣本外有效。