隨著人工智慧應用爆炸性成長,AI伺服器的運算需求與日俱增,晶片的發熱量也跟著水漲船高。過去傳統的風冷散熱方案已經難以應付動輒數百瓦甚至上千瓦的熱設計功耗(TDP),這促使業界積極尋找更高效的降溫方式。從液冷到水冷,這些技術的演進不僅是散熱效率的競賽,更與先進封裝技術息息相關。現代AI晶片如NVIDIA的H100或AMD的MI300X,內部整合了數千億顆電晶體,透過小晶片(Chiplet)設計與高密度互連,讓效能突破天際,但也同時產生了極高的熱密度。如果無法有效將熱量帶走,晶片效能將大打折扣,甚至導致系統不穩定或損壞。因此,散熱方案已不再是輔助角色,而是決定AI伺服器能否穩定運作的關鍵核心。先進封裝技術如2.5D/3D堆疊、矽中介層(Silicon Interposer)與嵌入式橋接(Embedded Bridge),不僅縮短了晶片間的訊號傳遞距離,也讓熱源更加集中。這意味著散熱設計必須更精準地對準熱點(Hotspot),並在有限的空間內快速傳導熱量。液冷散熱正是因應此需求而生,透過液體的高比熱容與導熱係數,能比空氣更有效率地帶走熱能。其中,直接液體冷卻(Direct Liquid Cooling, DLC)與浸沒式冷卻(Immersion Cooling)成為兩大主流。前者將冷卻液直接接觸晶片或散熱器,後者則將整個伺服器浸泡在絕緣液體中。而水冷則是液冷的一種常見形式,利用水作為冷媒,透過循環系統將熱量帶到遠端散熱。這兩種方式搭配先進封裝的微通道(Microchannel)設計,可以將散熱效率提升數倍。這篇文章將深入探討從液冷到水冷的技術演變,以及它們如何與先進封裝相輔相成,為AI伺服器打造一條有效的降溫路徑。
液冷技術的進化:從間接到直接的散熱革命
早期的液冷散熱主要應用在大型主機或超級電腦,採用間接式冷板(Cold Plate)設計,將冷卻液流經與晶片接觸的金屬板,透過熱傳導帶走熱量。這種方式雖然比風冷有效,但仍有熱阻限制。隨著先進封裝技術將多個晶片堆疊在一起,熱點面積縮小且熱流密度暴增,間接冷卻已無法滿足需求。於是直接液體冷卻(DLC)應運而生,將冷卻液直接噴射或流經晶片表面,甚至透過微米級的微通道直接在晶片底部散熱。這種設計大幅減少熱傳導路徑,讓熱量能瞬間被液體帶走。例如,NVIDIA的Grace Hopper超級晶片便採用了DLC方案,搭配專屬的冷卻板,能處理高達700W的熱負載。此外,浸沒式冷卻則是更激進的作法,將整台伺服器浸入非導電液體中,讓所有元件直接接觸液體,散熱均勻且無需風扇,大幅降低能耗與噪音。這種方式特別適合高密度部署的AI資料中心,但需要考慮液體對材料的相容性與維護成本。從間接到直接,液冷技術的演進滿足了先進封裝對散熱的嚴苛要求,也讓AI伺服器能夠在更高的功率密度下穩定運行。
水冷系統的實戰應用:資料中心如何導入循環降溫
水冷作為液冷的一種分支,因其低成本與高成熟度,成為許多資料中心的首選。典型的水冷系統包含冷卻塔、水泵、管路與冷板,透過水循環將熱量從伺服器轉移到室外。在AI伺服器場景中,水冷系統能有效支援先進封裝的散熱需求。以Intel的Xeon Max系列為例,其內建HBM記憶體與高密度計算單元,TDP可達350W以上,透過水冷冷板能將核心溫度維持在85°C以下。然而,水冷導入的挑戰在於管路設計與洩漏風險。先進封裝的晶片對水氣極為敏感,一旦洩漏可能造成整片晶圓報廢。因此,許多廠商採用去離子水或添加防腐劑的冷卻液,並搭配雙重密封接頭。資料中心也需規劃備援泵浦與漏水偵測系統。此外,水冷系統的能耗主要來自泵浦與冷卻塔風扇,整體能效(PUE)可降低至1.1以下,遠優於傳統空調的1.4。實際案例中,Google的資料中心已廣泛使用水冷,結合其TPU的液冷設計,讓運算密度提升30%以上。對於台灣的資料中心業者而言,導入水冷需考量氣候與水資源,例如在北部潮濕環境需注意冷凝水問題,但在中部乾燥地區則相對適合。總之,水冷系統已成為AI伺服器降溫的主流方案之一,尤其適合搭配先進封裝的高熱密度場景。
先進封裝與散熱的協同設計:微通道與熱介面材料的關鍵角色
先進封裝不僅僅是晶片的連接技術,更直接影響散熱路徑的設計。例如,使用矽中介層的2.5D封裝,晶片與散熱器之間多了中介層的熱阻;而3D堆疊則讓底部晶片的熱量必須經過上層晶片才能散出,導致嚴重的熱累積。為了解決這些問題,封裝廠商與散熱廠商開始協同設計。微通道(Microchannel)技術被植入到封裝基板或晶片背面,透過蝕刻出細小的溝槽,讓冷卻液直接流經這些微米級通道,達到極高的熱交換效率。例如,IBM的研究顯示,微通道散熱可實現超過1000 W/cm²的熱流密度移除能力。另一項關鍵是熱介面材料(Thermal Interface Material, TIM),它填充在晶片與散熱器之間,減少接觸熱阻。傳統TIM使用導熱膏或導熱墊,但對於高功率晶片,這些材料容易乾涸或性能不足。因此,液態金屬TIM或石墨烯複合材料被導入,導熱係數可達50 W/mK以上。此外,封裝本身的散熱設計也需考慮,例如在晶片周圍增加散熱鰭片或整合均熱板(Vapor Chamber)。這些協同設計讓先進封裝不再是散熱的瓶頸,反而能與液冷系統完美搭配。以台積電的3D Fabric技術為例,其整合了SoIC(系統整合晶片)與InFO(整合扇出型封裝),並針對散熱優化,提供晶背導熱通道(Backside Thermal Via)選項,讓熱量能快速傳導至封裝外殼。這種封裝層級的散熱創新,正是AI伺服器能不斷突破功率極限的關鍵。
未來趨勢:混合散熱與智慧熱管理系統
展望未來,AI伺服器的散熱將走向混合式設計,結合液冷、水冷與局部風冷,以應對不同功率密度的需求。例如,對於最高熱流的晶片採用直接液冷,而記憶體與周邊元件則使用水冷冷板或氣冷輔助。這種分級散熱策略能最佳化整體系統成本與效能。同時,智慧熱管理系統也將導入機器學習演算法,即時監控各晶片的溫度與功耗,動態調整冷卻液流量與風扇轉速,甚至預測熱點位置並提前降溫。先進封裝技術也會進一步整合感測器,例如在晶片內部嵌入熱電偶或紅外線感測器,提供更精準的溫度回饋。在台灣,由於半導體產業鏈完整,從晶圓代工、封測到伺服器系統整合,都能參與這場散熱革命。例如,日月光與訊凱合作開發的液冷模組,已成功應用於多家雲端服務商的AI伺服器。另一方面,散熱材料如石墨片、熱管與均熱板也持續進化,以對應更高熱流密度。值得注意的是,隨著矽光子(Silicon Photonics)等新技術即將量產,光學元件的熱管理也將成為新課題,可能需採用微流體冷卻或電光調變輔助散熱。總體而言,從液冷到水冷的演進,不僅是散熱技術的進步,更反映了AI伺服器與先進封裝之間密不可分的共生關係。唯有持續創新散熱方案,才能讓摩爾定律在AI時代繼續前行。
【其他文章推薦】
SMD元件外觀瑕疵CCD外觀檢查包裝
Tape Reel手動包裝機配合載帶之特性,間斷式或連續式可自由選擇切換
電動升降曬衣機結合照明與風乾,打造全能陽台新生態
防火漆適用在何種環境中呢?
零售業防損解決方案
消防工程設計與施工標準,你準備好了嗎?