AI 硬體需求為何暴增？8 大受惠科技族群一次看懂

這兩年只要打開財經新聞，AI 硬體需求暴增幾乎是每天都會看到的主題。為什麼一個跑在雲端、看起來只是「軟體」的 AI 模型，會帶動這麼龐大的實體硬體採購？這篇文章用白話拆解 AI 硬體需求背後的運算原理，從一台 AI 伺服器的零件分布出發，帶你看懂晶片、先進封裝、高頻寬記憶體、載板、散熱、電源到網通共 8 大受惠科技族群各自在做什麼。本文定位為產業知識教學，不含任何個別投資建議。

AI 硬體需求為何暴增？先看三個結構性原因

AI 硬體需求並不是憑空變大，而是由模型本身的特性、使用方式的轉變，以及機房密度的躍升三件事疊加出來的。

原因一：模型愈做愈大，運算只能「攤開來平行做」

當代的大型語言模型動輒上看兆級參數，訓練時要把海量資料反覆運算。單一顆晶片的記憶體與算力裝不下這種規模，於是必須把模型「切開」分散到幾十、上百顆 GPU 上同時運算，再靠高速互連把結果即時交換。

模型一旦大到單顆晶片裝不下，硬體需求就從「買一顆好晶片」變成「買一整套能協同運算的系統」。

原因二：推論需求爆發，使用量直接放大採購

訓練是把模型的能力「練出來」，推論則是模型實際被使用、產生回答的過程。隨著 AI 應用普及，推論的運算量正快速超越訓練。

• 根據 Deloitte 的 2026 科技趨勢預測，推論在 2026 年將占 AI 運算的約三分之二。
• 訓練是一次性的大工程，推論卻是每一次使用都要消耗算力，使用者愈多、調用愈頻繁，硬體就要愈多。

原因三：單位密度暴升，帶動整套配套升級

新一代 AI 機櫃的功耗與發熱遠高於傳統伺服器。當單櫃功率從過去的數千瓦跳到數十千瓦等級，傳統氣冷散熱、既有供電架構都跟不上，整個機房的散熱、電源、網路都被迫一起改版。

換句話說，AI 硬體需求不是單一零件變多，而是從晶片、記憶體、散熱到電力的一整條鏈被同步往上推。

拆解一台 AI 伺服器：AI 硬體需求落在哪些零件

要理解 AI 硬體需求為什麼能擴散到這麼多產業，最直接的方法是把一台 AI 伺服器拆開來看。以業界常見的整櫃式 AI 系統為例，一個機櫃可以整合數十顆 GPU、以高速互連連成一體，整櫃功率來到 120 kW 等級，並採用液冷散熱。

成本結構也很能說明問題。以一顆旗艦級 AI GPU 為例，外界估算其製造成本約落在數千美元區間，其中高頻寬記憶體與先進封裝合計就占了大約三分之二。也就是說，光是「把晶片做出來」，記憶體與封裝就吃掉大半成本，這還沒算進伺服器其餘的零件。

從這張表就能看出，一台 AI 伺服器牽動的是一整排不同產業，這也是 AI 硬體需求能擴散成「科技族群」題材的根本原因。

8 大受惠科技族群總覽

把上面的零件層對應到產業，可以整理成下面這張總覽表。後面各段再逐一說明每個族群在 AI 硬體需求中扮演的角色。

受惠族群 1：AI 晶片與運算核心

這是 AI 硬體需求最核心的一環。負責主要運算的，包括繪圖晶片（GPU）、各種 AI 加速器，以及雲端業者自行設計的專用晶片（ASIC）。

值得注意的是，主要雲端業者近年積極投入自研 AI 晶片，目的是針對推論這類大量、重複的工作量做最佳化，降低長期成本。這代表運算核心的競爭不再只是單一供應商，而是「通用晶片」與「自研專用晶片」並行。

• 通用 GPU：彈性高、生態系成熟，適合訓練與多種工作。
• 自研 ASIC：針對特定工作量最佳化，規模夠大時成本效益佳。

受惠族群 2：晶圓代工與先進封裝（CoWoS）

晶片設計出來，還要有人製造，這就是晶圓代工的角色。而把運算晶片與多顆 HBM 整合在同一個封裝裡的「先進封裝」技術（業界常見的 CoWoS），更是這一波的關鍵瓶頸。

先進封裝的產能擴張速度，直接決定了高階 AI 晶片能交多少貨。

• 業界先進封裝月產能在近三年大幅擴張，估算從數萬片級別一路往十萬片以上推進，但仍追不上需求。
• 多份產業分析指出，先進封裝在不少時候比記憶體更接近真正的供給瓶頸。

當封裝產能成為瓶頸，它就從幕後的製程，變成牽動整條 AI 供應鏈交期的關鍵環節。

受惠族群 3：高頻寬記憶體（HBM）

AI 運算不只要算得快，還要「餵得夠快」。高頻寬記憶體（HBM）就是把資料快速送進晶片的關鍵，它以多層堆疊的方式提供遠高於一般記憶體的頻寬。

HBM 是目前 AI 硬體供應鏈中相當吃緊的零件之一。

• 新一代旗艦 AI 晶片單顆就要搭配多組 HBM 堆疊，容量持續往上加。
• 產業消息顯示，主要 HBM 供應商的當年度產能很早就被預訂一空，後進者也在加速量產新世代產品。
• HBM 占用大量先進製程的記憶體晶圓資源，連帶影響一般記憶體的供給。

受惠族群 4：IC 載板與高階 PCB

晶片與記憶體整合後，需要載板（substrate）來承載與導通，再透過高階印刷電路板（PCB）連接到整個系統。AI 晶片的接點密度高、訊號速度快，對載板與 PCB 的層數、材料與良率都提出更高要求。

• 載板：把封裝好的晶片連到電路板的中介層，技術門檻高。
• 高階 PCB：在高速、高頻環境下維持訊號品質。

這一層常被忽略，卻是 AI 硬體需求向下游擴散時，台灣供應鏈著力較深的環節之一。

受惠族群 5：散熱與液冷

當單櫃功率跳到數十千瓦以上，傳統氣冷已經難以負荷，液冷因此從選配變成主流配置。

• 有研究機構估計，液冷 AI 伺服器的滲透率在短短兩三年內，從一成出頭快速攀升到逾七成的量級。
• 散熱在資料中心的能耗占比相當可觀，散熱效率直接牽動整體用電。

散熱族群涵蓋冷板、冷卻液分配單元（CDU）、管路與機構件等，是 AI 硬體需求中成長相對明確的配套環節。

受惠族群 6：電源、供電與能源

算力愈大，吃電也愈兇。AI 機房的供電架構，從晶片旁的電壓轉換，到機櫃的高壓直流匯流排，再到整座資料中心的電力供應，全部都被放大。

更宏觀來看，AI 帶動的電力需求成長被許多機構視為長期趨勢，從晶片旁的供電零件到整體能源基礎建設，都在這條需求鏈上。

受惠族群 7：網通、高速傳輸與光通訊

要讓幾十、上百顆晶片像一台機器一樣協同運算，靠的是高速互連。機櫃內有高速交換結構，機櫃之間與資料中心內部則大量倚賴交換器與光收發模組。

• 高速交換：讓晶片之間能即時交換運算結果。
• 光通訊：在更長距離、更高速率下傳輸資料，是資料中心擴張的關鍵。

隨著 AI 叢集規模愈做愈大，互連的重要性與用量同步上升，這也是 AI 硬體需求外溢到網通與光通訊的原因。

受惠族群 8：伺服器 ODM 與機櫃整合

最後，這些零件要被組裝成可以實際運轉、交付給雲端業者的系統，這就是伺服器代工（ODM）與機櫃整合的工作。台灣廠商在全球 AI 伺服器組裝環節扮演吃重角色。

整櫃式 AI 系統把運算、散熱、供電、網路整合在一起出貨，對組裝廠的系統整合、測試與交期管理能力要求更高，附加價值也隨之提升。

從晶片到整櫃，AI 硬體需求像一條鏈把這 8 個族群串起來，任何一環卡住，整條供給都會受影響。

AI 硬體需求會一直熱下去嗎？三個要留意的變數

趨勢明確，不代表每個環節都會一帆風順。理解風險，才能更完整地看待 AI 硬體需求這個題材。

1. 自研晶片的變數：雲端業者自研 ASIC 若大規模放量，可能改變運算核心的競爭格局與供應商版圖。
2. 能源與電力瓶頸：電力、土地、變電設備的供給速度，可能成為 AI 機房擴張的實際天花板。
3. 供需循環風險：半導體與硬體本就有景氣循環，瓶頸解除、重複下單修正或資本支出放緩時，價格與出貨節奏都可能反轉。

科技趨勢的方向，和個別公司、個別產業的短期節奏，是兩件不同的事；看懂產業，不等於能預測股價。

常見問題 FAQ

Q1：AI 硬體需求只跟 GPU 有關嗎？
不是。GPU 是核心，但 AI 硬體需求其實是一整條鏈，從晶片、先進封裝、HBM、載板，到散熱、電源、網通與伺服器組裝都包含在內。

Q2：HBM 和一般記憶體差在哪？
HBM 以多層堆疊提供遠高於一般記憶體的頻寬，專門解決「把資料快速餵進晶片」的問題，因此在 AI 應用中特別吃緊。

Q3：為什麼 AI 伺服器要用液冷？
因為單櫃功率大幅提高、發熱集中，傳統氣冷難以負荷，液冷能在高功率密度下維持穩定運作，已逐步成為主流。

Q4：台灣在 AI 硬體供應鏈的位置？
台灣在晶圓代工、先進封裝、IC 載板、散熱、伺服器組裝等環節都有著墨，是全球 AI 硬體供應鏈的重要參與者。

Q5：AI 硬體需求會不會是泡沫？
產業趨勢與個別標的的評價是兩回事。需求成長是事實，但循環與評價風險同樣存在，本文僅作產業說明，不對任何標的提供買賣建議。

風險揭露

本文為產業知識與財經科技趨勢的教育性內容，所提及的技術、公司與產業環節僅用於說明 AI 硬體供應鏈的分工，不構成任何投資建議或買賣推薦。半導體與科技硬體產業具有明顯的景氣循環特性，供需、價格與資本支出都可能快速變化。任何投資決策應自行評估風險、量力而為，必要時諮詢合格的專業人士。

官方教育資源

想進一步學習投資與風險管理的正確觀念，建議優先參考下列官方與公益單位的教育資源：

延伸閱讀

• 華爾街是怎麼估年度成長率？華爾街如何判斷股市
• 台指期是什麼？新手 3 分鐘看懂台股指數期貨