反向傳播(Backpropagation)
-
目標:根據 loss,讓模型參數朝「更準」的方向優化。
-
步驟:
-
從 output(損失)開始,沿著神經網路反向往回「流動」誤差資訊
-
透過鏈式法則,逐層算出每個參數對 loss 的影響(即「梯度」)
-
這些梯度(即每個參數該怎麼改)會交給 optimizer(如 SGD、Adam)去更新參數
-
反向傳播就是修正模型讓下一次預測變更準的步驟,是模型「學習」的核心。
相關筆記
- 前向傳播(Forward Propagation):上一步
- 損失函數:梯度的來源
- 優化器:用梯度更新權重