2024-04-26 台積電技術論壇 矽光子、CPO技術是什麼?
台積電CPO技術 什麼時候量產?
應用CPO主要因素是 是不是 降低 AI算力散熱問題
以及算力吃電困擾?
========================================
台積電的 CPO(共同封裝光學元件)技術預計將在 2026 年量產。這項技術的主要應用確實與您提到的兩大核心問題——散熱和功耗息息相關。
CPO技術的主要應用與關鍵因素
在傳統的 AI 伺服器中,運算晶片(例如 GPU)和光學傳輸元件(負責高速資料傳輸)是分開的,彼此之間需要透過電纜線連接。當 AI 模型的規模越來越大,運算能力和資料傳輸需求也暴增時,這種傳統模式會產生以下瓶頸:
龐大的功耗與散熱問題: 電訊號在傳輸過程中會消耗大量能量並產生熱能。當資料量級越來越大,傳輸過程中的功耗也會跟著直線上升,使得散熱成為巨大的挑戰。CPO 技術將運算晶片與光學元件直接封裝在一起,用光訊號取代電訊號進行傳輸,大幅減少了傳輸過程中的能量損耗,自然也降低了功耗和散熱需求。
算力與傳輸瓶頸:
傳統的電訊號傳輸速度受到限制,就像一條小水管,無法滿足 AI 晶片運算產生的龐大資料流量。CPO 技術將光學傳輸直接帶到晶片旁,提供更寬的「頻寬」,解決了資料傳輸的瓶頸,讓 AI 晶片的算力可以更有效率地發揮,不再因為傳輸速度跟不上而受限。
總結來說,CPO 技術是為了解決 AI 時代巨量資料傳輸所帶來的功耗、散熱以及傳輸速度瓶頸,這對未來 AI 資料中心、高效能運算(HPC)等應用至關重要。
沒有留言:
張貼留言