本集介紹
【AI時代的高速公路來了!什麼是CPO、CIO?】
當ChatGPT、Gemini、Claude等生成式AI快速進化,我們每天都在享受AI帶來的便利,但你是否想過,AI越聰明,背後需要的資料傳輸速度到底有多快?答案可能超乎你的想像。
過去,AI競賽比的是「算力」,但現在真正限制AI發展的,反而是資料傳輸速度、耗電量與散熱能力。因此,近年全球科技產業最熱門的關鍵字,就是:
🔹 矽光子(Silicon Photonics)
🔹 CPO(Co-Packaged Optics,共同封裝光學)
🔹 CIO(Chip Integrated Optics,晶片整合光學)
它們正重新定義AI資料中心的未來。
【為什麼AI需要「光」?】
過去資料中心主要利用銅線傳輸資料。但隨著AI模型越來越龐大,GPU算力不斷提升,銅線開始遇到瓶頸:
❌ 傳輸距離有限
❌ 功耗越來越高
❌ 發熱越來越嚴重
於是,「光」成為最佳解方。矽光子技術,就是把雷射、光檢測器、波導等光學元件,利用半導體製程整合到晶片上,讓光像電晶體一樣能夠大量生產。也因此,AI的資料傳輸正式邁向「光時代」。
【 CPO有多厲害?】
如果說矽光子是基礎技術,那麼CPO就是AI高速公路真正開始鋪設的關鍵。它最大的特色,就是把原本放在伺服器外面的光模組,直接整合到AI晶片旁。好處包括:
✅ 傳輸速度更快
✅ 功耗更低
✅ 延遲更小
✅ 散熱效率更高
更驚人的是傳輸速度,一般家用光纖約1Gbps,第一代CPO即可達到3.2Tbps,等於家用網路速度的3,200倍!未來更將朝6.4Tbps、12.8Tbps甚至更高頻寬邁進。
【 更快只是基本,更重要的是「更省電」】
AI資料中心最大的成本,其實不是GPU,而是電力。目前業界原本預估,CPO可以降低約50%的光通訊耗電。但最新驗證結果顯示,節能效果甚至有機會達到 80%~90%!對於擁有數萬顆GPU的大型資料中心來說,每年可節省的電費與散熱成本相當可觀。因此,許多人開始說:AI競爭,比的不只是算力,而是能源效率。
【 CIO,下一個世代已經開始】
如果CPO代表現在,那麼CIO就是下一個未來。它將光學元件進一步整合到晶片架構中,配合先進封裝與3D堆疊技術,讓頻寬再次翻倍。不過,要做到這件事並不容易。真正最大的挑戰不是速度,而是「光學對位」。光不像電,只要位置稍有偏差,就可能影響整個訊號品質,因此先進封裝技術的重要性也越來越高。
【為什麼台灣站在AI供應鏈核心?】
從矽光子、先進封裝到AI伺服器,台灣擁有全球最完整的AI產業鏈。
📍 台積電:世界領先的半導體製程與先進封裝
📍 日月光:全球最大的封測廠
📍 鴻海:全球AI伺服器與系統整合龍頭
再加上完整的人才培育與光電研究能量,讓全球科技巨頭紛紛來台布局研發中心。可以說,AI的未來不只是建立在晶片上,更建立在台灣完整的供應鏈實力上。
AI的下一場競賽,不只是誰的GPU更快,而是誰能讓資料跑得更快、耗電更少、效率更高。而承載這一切的,正是從矽光子 → CPO → CIO所打造出的AI高速公路。當AI持續改變世界,台灣也正站在這條高速公路最關鍵的位置。
--
Hosting provided by SoundOn