現代企業應用架構複雜 (多輸入源、微服務、規則引擎、多層快取、異構資料庫)，傳統「調參數看指標」的藝術式調優已失效。本文提出 Wait-Based Tuning (基於等待的調優) 科學方法論：以「用戶請求等待點」為分析核心，結合架構拓撲、負載測試、後退調優，實現可度量、可復現的效能優化。
調優四步迭代流程
- 負載測試：建立具代表性、均衡分佈的服務請求集
- 容器調優：JVM、應用服務器、連接池、線程池基礎配置
- 應用調優：定位並解決代碼層面瓶頸
- 迭代：容器↔應用交替優化，直到達標或截止
負載測試的科學標準：代表性與均衡性
非均衡負載會誤導調優方向。例：保險理賠系統真實比例 = 2 登入 : 10 處理 : 2 報表 : 1 登出。若測試平均分配壓力，登入功能會虛假成為瓶頸，導致資源錯配。
既有系統：從生產環境提取真實行為
- 訪問日志：解析 URI 分佈 (
/login.do, /processClaim.do)，取前 80% 請求構建負載。
- 用戶體驗監控器：前端控制器/單一 URI 封裝多業務場景時，需 Servlet Filter 或硬件探針解析 Payload 識別場景。
新系統：三階段評估驗證迴路
- 專家評估：產品經理 (業務流程) + 架構師 (技術映射) → 基準負載腳本
- 冒煙驗證：上線 1-2 週對比真實行為，修正明顯偏差
- 生產/回歸驗證：用戶行為穩定後 (月/季) 及新功能上線後，週期性校準負載模型
- 複盤反思：記錄評估偏差原因，沉澱知識庫，避免重複錯誤
核心理念：等待點架構分析
請求處理路徑上的每個資源爭用點即為 等待點。分析目標：繪製核心處理路徑拓撲，標註所有潛在等待資源。
兩大類等待點
| 類型 | 來源 | 典型例子 | 調優關鍵 |
|---|
| 基於層次 | 跨進程/機器邊界傳遞請求 | Web Server → Servlet 容器 → EJB 容器 → DB/Web Service → 訊息隊列 | 線程池大小：足夠吞吐、不耗盡 CPU、不透支後端資源 |
| 基於技術 | 單進程內部機制 | 物件池、快取、DB 連接池、GC、通訊中間件 | 池大小/快取命中率/GC 停頓/隊列深度 |
層次等待點：線程池鏈與後退調優
請求跨層經由「請求佇列 + 線程池」模型。鏈條上每個池大小必須協調：
- DB 最大連接 50 → 應用服務器 DB 池配 45
- 應用服務器需 80 線程產生 45 DB 連接 → 應用線程池配 80
- Web Server 每實例發送 ≤ 80 請求給應用服務器
後退調優算法：
- 全開所有層次池與外部依賴池 (允許過載)
- 施加均衡代表性負載
- 觀察最先透支的資源 (通常是 DB)
- 收緊該資源上游池大小，使其飽和但不透支
- 依序向上游調整，確保負載順暢流向最弱一環
- 最上游 (Web Server) 允許請求等待，保護下游
技術等待點深度剖析
物件池
- 無狀態 (如 Stateless Session Bean)：任何實例皆可，池太小 → 等待；太大 → 記憶體壓力。容器通常自動調優，手工配置易出錯。
快取
- 有狀態：請求特定鍵值。太小 → 頻繁 Miss (7 步驟：查快取失敗→查外部→寫入快取→快取滿→LRI 淘汰→若髒寫回外部→返回) 反而拖慢效能。太大 → 佔用 Heap 觸發 Full GC。必須儲存最高頻熱點 + 預留緩衝。若需極大快取才達標，重新評估快取對象價值。
外部依賴池 (DB 連接池等)
通訊基礎設施
- MQ、TIBCO 等中間件需獨立調優，否則成為隱性等待點。
垃圾收集 (GC)
- 雖非請求路徑直接等待點，但 Full GC (標記-清除-壓縮) 導致全 JVM 停頓 (Stop-the-World)，影響極大。優化 GC (分代、並行、CMS/G1) 是 JVM 層面必修課。
總結：從藝術到科學
- 架構視角：繪製請求路徑拓撲，識別所有等待點
- 負載科學：代表性+均衡性負載，新系統建立驗證迴路
- 瓶頸定位：後退調優從最弱外部資源向上游收緊
- 技術微調：池/快取/GC 服務於請求吞吐最大化
- 可度量結果：用戶回應時間、吞吐量、錯誤率三大黃金指標
Wait-Based Tuning 已在生產環境反覆驗證，不僅高效，更讓效能工程師能快速交付可量化的優化成果。核心心法：優化用戶等待，而非優化指標數字。
作者簡介
Steven Haines，GeekCap 創辦人/CEO，專精效能測試調優電子學習方案。著作《Java EE 5 Performance Measurement and Optimization》(Apress) 等。曾任 Quest Software Java 領域專家，設計效能監控分析軟體。聯繫：steve@geekcap.com。英文原文：A Formal Performance Tuning Methodology: Wait-Based Tuning。
