電信級異步並行批處理框架設計：從百萬用戶停復機業務實踐談架構演進

業務痛點：月初百萬級停復機指令處理瓶頸

某省移動公司在網用戶數千萬，月初繳費復機、欠費停機指令激增，傳統 C++ 多進程同步阻塞模式導致：

• 單庫單表 IO 競爭劇烈，頂級小型機也扛不住
• 同步發送 HLR 指令至交換機，阻塞等待回應，任務積壓嚴重
• 用戶投訴「已繳費未復機」「欠費未停機」，客戶流失風險

架構優化四大策略

1. 水平分庫：按歸屬地市拆分實體表，分散 IO 壓力
2. 異步非阻塞：HLR 指令改為異步下發 + 回調通知，消除阻塞等待
3. 並行加載：多資料源並行查詢，總耗時 = 最慢單源耗時
4. 可配置線程池：批處理框架支援動態調參，月初放大參數，平時縮小資源佔用

核心模組架構

1. 異步並行查詢加載模組 BatchQueryLoader

• 支援多 DataSource 並行查詢
• 基於 Guava ListenableFuture 實現非阻塞聚合
• 串行總耗時 = Σ單源耗時；並行總耗時 = Max(單源耗時)

2. 並行異步批處理模組 BatchTaskReactor

• 封裝 ThreadPoolExecutor，有界隊列 ArrayBlockingQueue 防記憶體溢位
• 任務提交 → 線程池派發 → Future 異步獲取執行結果
• 整合 JMX 監控執行狀態

3. 線程池配置管理 BatchTaskConfigurationLoader

<jobpool name="newlandframework_batchtask">
  <attribute name="corePoolSize" value="15" />    <!-- 核心線程 -->
  <attribute name="maxPoolSize" value="30" />     <!-- 最大線程 -->
  <attribute name="keepAliveTime" value="1000" /> <!-- 空閒存活秒數 -->
  <attribute name="workQueueSize" value="200" />  <!-- 隊列容量 -->
</jobpool>

參數關係：任務來 → 核心線程處理 → 隊列緩衝 → 臨時線程（max-core） → 拒絕策略（預設 CallerRunsPolicy 由呼叫執行緒執行，天然背壓）。

4. HLR 業務任務模組

• BusinessEvent 介面定義統一執行契約
• HlrBusinessEvent 實作指令下發邏輯
• AOP 代理 HlrBusinessEventAdvisor 統計耗時
• HlrBusinessEventTask 實作 Callable 適配線程池

5. JMX 即時監控 BatchTaskMonitor

• 暴露 getBatchTaskCounter(String) 操作
• 成功/失敗計數器：TASKSUCCCOUNTER / TASKFAILCOUNTER
• 支援 JConsole 可視化即時查看

關鍵程式碼片段

並行查詢執行器

public class BatchQueryExecutor {
    public <IN, OUT> List<OUT> executeQuery(Collection<IN> inputs, BatchQuery<IN, OUT> unit) {
        ListeningExecutorService service = MoreExecutors.listeningDecorator(
            Executors.newFixedThreadPool(inputs.size()));
        Set<ListenableFuture<OUT>> futures = new HashSet<>();
        for (IN input : inputs) {
            futures.add(service.submit(() -> unit.query(input)));
        }
        service.shutdown();
        return Futures.allAsList(futures).get(); // 聚合結果
    }
}

線程池工廠與拒絕策略

new ThreadPoolExecutor(
    core, max, keepAlive, TimeUnit.SECONDS,
    new ArrayBlockingQueue<>(queueSize),
    new BatchTaskThreadFactory(name),
    new ThreadPoolExecutor.CallerRunsPolicy() // 呼叫者執行，天然限流
);

實戰效果驗證

• 測試資料：福州/廈門兩地市共 80 條待處理資料
• 並行加載 + 線程池異步派發，總耗時大幅降低
• JConsole 監控顯示：成功/失敗計數即時更新，可視化運維

架構價值總結

「麻雀雖小，五臟俱全」：幾百行核心代碼解決百萬級並發批處理難題，充分利用多核 CPU 優勢，適用於 IO 密集型批量業務（計費、推送、報表、ETL）。關鍵設計模式：生產者-消費者、策略模式（拒絕策略）、模板方法（任務執行流程）、觀察者模式（JMX 通知）。