連線排空如何支援伺服器零停機更新?
連線排空是指停止新流量進入某部伺服器,同時讓現有請求及工作階段完成,然後才進行更新。這是實現零停機伺服器更新的實用控制方法,因為它把移除流量與實際維護工作分開。對專屬伺服器而言,團隊可以按較可預測的 CPU、記憶體、網絡及操作系統容量量度影響,但服務仍需要備援及經測試的流量管理路徑。
因此,零停機更新不只是安裝套件或重新啟動節點。變更伺服器前,應先停止新工作分派到該節點,讓現有工作完成或安全重新連線,再執行更新、驗證節點,確認服務恢復後才重新加入流量。實際次序取決於協議、工作階段模型、應用程式依賴及容錯設計。
連線排空會改變甚麼
當後端進入排空狀態,負載平衡器會停止把新連線或請求傳送到該節點,同時給予現有連線一段明確的寬限時間。實際行為取決於服務承載 TCP、HTTP、WebSocket、Server-Sent Events 或其他長連線協議。排空並不等同於即時停用伺服器,而是由提供服務、停止接收新工作、更新、驗證至恢復就緒的受控轉換。
Dataplugs 的文章《如何為全球伺服器群組安排維護時段?》將維護時段視為完整營運時間,當中包括流量排空、變更、驗證、回滾截止時間及負責人。採用相同結構,可以令連線排空更容易一致執行。
- 先定義排空適用於新 TCP 連線、新 HTTP 請求、新工作階段,還是全部項目。TCP 連線可能承載多個請求,而 HTTP 或事件串流連線的持續時間可能遠長於一般頁面請求。
- 分別設定連線排空寬限時間、請求逾時、Keepalive 逾時及強制終止時間。單一全局逾時可能中斷仍有用的工作,或令節點長時間無法提供服務。
- 使用以服務為本的健康檢查,不要因為連接埠仍然開啟便把節點重新標記為就緒。應按需要檢查應用程式準備狀態、依賴服務、佇列及複本或叢集狀態。
- 記錄開始排空時仍有多少連線、請求、工作及工作階段,它們完成所需時間,以及哪些工作到達終止上限。
- 為無法完成的連線保留明確處理方法。按應用程式合約,可以選擇拒絕、重試、重新連線、轉移狀態,或在發出提示後終止。
在滾動更新中使用連線排空
滾動更新會以受控批次變更伺服器群組,而不是同時將所有伺服器移出服務。每部伺服器都應先停止接收新流量,等待排空條件完成,執行更新、進行服務檢查、觀察結果,然後才處理下一部。批次大小應保留足夠容量應付正常流量及突發故障。
Dataplugs 的指南《高可用性伺服器的 Linux Kernel Live Patching》說明即使採用即時修補,仍然需要流量排空、金絲雀節點、工作負載檢查、複製檢查及計劃好的重新啟動路徑。這些控制同樣適用於應用程式、操作系統或配置更新。
- 按故障範圍、硬件類型、操作系統版本、地區及服務重要性決定更新次序。第一部伺服器應能代表正式環境的風險,而不是只選擇最容易更新的節點。
- 每部伺服器恢復後,驗證套件或配置版本、服務就緒狀態、應用程式交易、日誌、監控、依賴服務及流量分布,確認無誤後才視為恢復。
- 在第一部伺服器或第一個批次後設定暫停門檻,把延遲、錯誤率、吞吐量、連線數、佇列深度、複製延遲、CPU、記憶體、儲存及網絡錯誤與更新前基線比較。
- 不要把指令成功完成或程序正常退出視為安全更新的證明。節點可能仍在線上,但應用程式已出現錯誤、工作階段遺失,或背景工作無法處理。
- 在觀察期完成前,保留舊版本、配置、映像或核心的復原路徑。預先列明誰有權停止推進,以及發生異常後需要哪些證據才可繼續。
保護長連線及狀態
長連線令連線排空更重要,也更難預測。WebSocket、Server-Sent Events、資料庫工作階段、訊息消費者及串流傳輸可能在一般請求逾時後仍然存在。更新計劃應清楚列明這些工作階段會完成、轉移、重新連線,還是在向客戶端發出提示後關閉。
Dataplugs 的文章《以 VRRP、BGP 實現自動化容錯切換,確保伺服器可用性》說明在多伺服器設計中,端點所有權、路由狀態及應用程式健康狀態需要同步。連線排空亦採用同一原則:安全移除節點,需要流量路徑及服務狀態對應同一個工作去向。
- 對 WebSocket 及事件串流,應定義心跳、閒置逾時、重新連線及恢復行為。清晰的關閉訊號及重試提示,通常比讓客戶端面對無法解釋的連線重設更安全。
- 對工作階段及交易,先決定狀態儲存在本地還是共享系統。負載平衡器可以移動新流量,但如果下一個節點無法存取繼續請求所需的狀態,單靠流量轉移並不能令應用程式安全。
- 如果更新會改變協議、資料庫結構、API 合約或序列化格式,應預留兼容期,讓新舊節點可以在滾動更新期間並存。
- 監察活動連線年齡、排空完成率、強制關閉、重新連線量、重複工作、寫入失敗及下游壓力。這些訊號往往會在整體可用性下降前顯示排空出現問題。
- 設定節點可以維持排空狀態的最長時間,並為例外情況指定負責人。長時間卡在排空狀態的節點會悄悄減少群組容量,亦可能在下一部伺服器需要維護時造成第二個故障。
結論
連線排空把伺服器更新轉化為受控的流量轉換:停止新工作、給予現有連線合理時間完成、保護工作階段及資料狀態,以可量度的批次更新具代表性的節點,並在恢復後才重新加入容量。對專屬伺服器環境而言,這種方法把可預測的基礎設施資源、負載平衡控制及營運證據結合起來,令零停機更新成為可重複的流程,而不是盡力而為的重新啟動。
