CoWoS-X 技術本身並不能直接讓晶片算力提升 40 倍。
你提到的這個「40 倍」其實是指在網路傳輸和晶片互連層面的提升，而非單一晶片的運算能力。這個數字主要是來自於輝達的 GB200 架構，其中 CoWoS-X 扮演了關鍵角色。
以下是 CoWoS-X 相較於傳統 CoWoS 在 GB200 方案中實現巨大提升的幾個主要原因：
1. 實現單一伺服器「超級晶片」
傳統的 CoWoS 技術主要用於將單一 GPU 和其配套的 HBM 記憶體封裝在一起，形成一個獨立的單元。
而 CoWoS-X 則是一種更進階的技術，它可以將多個 CoWoS 晶片，例如兩顆 B200 GPU 和它們的 72 顆 HBM3e 記憶體，整合在一個超大型的基板（wafer）上。這種方式能讓多個運算核心像一個「超級晶片」一樣運作。
2. 提升晶片間的通訊效率
在 GB200 架構中，多達 36 個 Grace CPU 和 72 個 Blackwell GPU 透過 NVLink 介面緊密連接。CoWoS-X 使得這些晶片能夠更近距離地互連，大幅縮短了訊號傳輸路徑，並降低了延遲。
這種高效的晶片間通訊，讓 GB200 在處理大規模的 AI 模型時，能更有效地分配任務和共享資料，從而實現整體算力的倍數級成長。
3. 解決傳統伺服器架構的瓶頸
在過去，AI 伺服器是透過伺服器機架中的交換機來連接多個 GPU。這類交換機的傳輸速度和延遲都會形成瓶頸。
而 GB200 透過 CoWoS-X 和 NVLink 技術，將所有 GPU 結合成一個巨大的運算單元，等於是將交換機的功能內建於晶片層面，大幅減少了資料在不同晶片和伺服器間傳輸的延遲和損耗，這正是 40 倍提升的關鍵所在。
總結來說，40 倍的提升並非來自於單一 GPU 的算力暴增，而是透過 CoWoS-X 技術，將多個 GPU 緊密整合，並大幅提升它們之間的通訊效率，從而實現了整個系統在處理 AI 運算時的巨大效能飛躍。
輝達是哪一天發表 blackwell架構 ?
哪一天發表 GB200?
輝達在 2024 年 3 月 18 日的 GTC 大會上正式發表 Blackwell 架構。
而首個採用 Blackwell 架構的 AI 超級晶片 GB200 則是在同一天，也就是 2024 年 3 月 18 日發表。
達是哪一天發表 blackwell架構 ?
GB200 是哪一天上市銷售
輝達在 2024 年 3 月 18 日的 GTC 大會上正式發表了 Blackwell 架構和 GB200 超級晶片。
至於上市銷售時間，輝達 GB200 的出貨時間點如下：
2024 年第四季開始小規模出貨。
2025 年第一季的出貨量將會大幅增加。
由於這些產品主要是供應給大型雲端服務商和資料中心，並非直接零售給一般消費者，因此沒有明確的「上市銷售」日期，而是以開始供貨給客戶的時間點來計算。
沒有留言:
張貼留言