【AI大模型進階】學習率（Learning Rate）調參玄學：大了不收斂，小了動不了這是【AI大模型進階】系列第七十三課，是繼 Batch Size 之后，模型訓練最核心、最關鍵、最能決定成敗的第二大超參數必修課。上一節課我們徹底搞懂了 Batch Size（批次大小），明白了如何壓榨GPU算力、平衡訓練速度與模型泛化能力。很多同學實操后會發現一個詭異問題：明明Batch大小調得沒問題、模型結構沒錯、數據沒問題，可模型就是訓不動、收斂極慢、Loss來回震蕩，甚至越訓越差。99%的這類訓練翻車問題，根源只有一個——學習率（Learning Rate，LR）設置不當。在深度學習和大模型微調領域，學習率一直被新手稱為“調參玄學”：調大一點直接震蕩不收斂、Loss爆炸；調小一點模型徹底僵死、幾千輪訓練毫無變化。很多人訓練模型全靠蒙參數、反復試錯，浪費大量算力和時間。本節課徹底破除學習率的玄學面紗，不用復雜數學公式，用大白話+生活化類比+對照實驗代碼，從零講透學習率的底層邏輯、大小利弊、適配場景、科學調參方法、動態優化策略。學完本節課，你徹底告別盲目調參，精準拿捏模型訓練節奏，讓模型又快又穩收斂。一、零基礎秒懂：學習率到底是什么？我們延續系列一貫的通俗類比，結合之前的下山優化模型和學生刷題模型，一次性徹底理解學習率的核心作用。1、生活化核心類比前文我們講過：模型訓練就是梯度下山找最低點，誤差Loss是山坡高度