深度學習 RBM 輸入層非二值化數據處理：歸一化與轉換為伯努利分布的方法

背景

限制玻爾茲曼機 (RBM) 經典版本要求可見層為二值 (0/1)，對應伯努利分布。實際數據 (如灰度圖像、連續特征) 非二值。

常見處理方案

1. 歸一化到 [0,1] 視為概率：將數據線性縮放至 [0,1]，直接作為可見單元激活概率 p(v=1)。訓練時按概率采樣二值化，或直接用實值作為輸入 (高斯-伯努利 RBM)。
2. 高斯-伯努利 RBM (Gaussian-Bernoulli RBM)：可見層假設為高斯分布，隱含層為伯努利。能量函數修改為：
   E(v,h) = Σ (v_i - b_i)²/2σ² - Σ w_ij h_j v_i - Σ c_j h_j
   適用於連續值輸入 (如 MNIST 灰度圖)。
3. 數據二值化：設置閾值 (如均值、0.5) 將連續值轉為 0/1，但會丟失信息。

參考資源

• 周志華《機器學習》/ 李航《統計學習方法》 RBM 章節。
• 博客：深度學習 RBM 原理與實現
• 博客：高斯-伯努利 RBM 代碼解析

建議

優先嘗試 **歸一化 + 高斯-伯努利 RBM**，保留數據連續特性；若計算資源受限，歸一化後按概率采樣近似伯努利過程。