英國 AI 晶片黑馬 Fractile 募資 7.2 億美元、估值破 50 億英鎊!3D 堆疊 DRAM 如何打破算力「記憶體牆」?

英國 AI 晶片新創 Fractile 完成 7.2 億美元 C 輪融資,估值突破 50 億英鎊並獲英國主權 AI 基金投資,透過 3D 堆疊標準 DRAM 打破推論記憶體頻寬瓶頸。

Share
Fractile官方發布新聞圖片:Fractile 7.2 億美元 AI 晶片
Fractile 7.2 億美元 AI 晶片官方發布新聞畫面。 圖片來源:官方原文。

多數人談到人工智慧晶片競賽,總以為勝負關鍵在於誰的運算核心塞進了最多電晶體,但真正卡住大模型回答速度的兇手其實是記憶體傳輸。

英國 AI 晶片新創 Fractile 剛剛宣布完成高達 7.2 億美元的 C 輪融資,折合約 5.77 億英鎊。這筆巨額資金讓這家成立僅四年的硬體公司估值一舉突破 50 億英鎊,換算約 70 億美元,成為歐洲最受矚目的晶片獨角獸。

這件事之所以震撼硬體圈,是因為領投與參投陣容極其罕見。除了 Thrive Capital、Founders Fund、Lightspeed 與 Redpoint 聯合領投,還包括 Google 旗下的 CapitalG、貝萊德,以及英國政府主權 AI 創投基金親自入股。

我們認為,這筆融資證明資本市場已經看透目前主流繪圖處理器在推論階段的結構性浪費,並願意用真金白銀押注「記憶體優先」的全新晶片架構。不過硬體新創從流片驗證走向大規模商轉向來充滿變數,這場賭局考驗的不只是架構創意,更是晶圓代工與軟體生態的落地執行力。

要理解為何一間四年新創能吸引美國頂級創投與英國政府聯手重壓,得先看懂它想解決的「記憶體牆」究竟有多痛。

7.2 億美元 C 輪融資背後的訊號:為何英國政府與頂級創投搶著入股?

在半導體設計成本動輒數億美元的今天,新創公司如果沒有拿得出手的差異化架構,很難跨過 C 輪募資門檻。Fractile 這次一口氣募得 7.2 億美元,寫下了歐洲晶片新創罕見的吸金紀錄。

跨大西洋頂級資本與英國主權基金罕見合流

攤開這次的投資人名單,幾乎囊括了矽谷最敢押注深科技的頂尖機構,包括 Thrive Capital、Founders Fund、Lightspeed Venture Partners 與 Redpoint 共同領投。與此同時,Google 成長基金 CapitalG 與全球資產管理巨頭貝萊德也名列其中。

最特別的是英國政府透過主權 AI 創投基金直接參與投資。這代表英國官方不再滿足於只做軟體監管或單純採購美系算力,而是希望在自家土地上扶植出能夠挑戰高階推論市場的戰略級硬體冠軍。

這種公私資本聯手的結構,在歐洲半導體史上並不多見。對新創團隊而言,國家主權基金的背書不僅帶來資金,更意味著未來在爭取英國本土資料中心與研究機構訂單時,將擁有極強的政策主場優勢。

資金用途:從研發原型跨向首批商用晶片出貨

拿到這筆龐大資金後,公司明確表示將用來擴大工程團隊規模,並全力推進首批商用晶片與完整系統的量產出貨。對晶片新創來說,設計出漂亮的模擬數據只是第一步。

真正燒錢的是與先進封裝廠磨合良率、打造機櫃散熱系統,以及讓客戶的模型能無痛跑起來。因此,C 輪資金的規模是否足夠支撐到第一批系統順利交付並產生穩定現金流,將是外界檢視這家獨角獸執行力的核心焦點。

延伸閱讀:Daisyflow 是什麼?Daisytuner 獲 600 萬歐元種子輪融資,跨晶片本機 AI 推論一次看

Fractile官方發布新聞圖片:Fractile 7.2 億美元 AI 晶片
Fractile 7.2 億美元 AI 晶片官方發布新聞畫面。 圖片來源:官方原文。

什麼是「記憶體牆」?為何執行長說現有晶片像「用吸管喝水」?

如果把人工智慧的運算過程比喻成一位廚師做菜,傳統晶片追求的是讓廚師切菜的手速越來越快,但送菜到流理台的通道卻只有一條窄巷,導致廚師大部分時間都在空等食材。

算力過剩、頻寬不足的推論瓶頸

當大型語言模型進入推論階段,也就是實際回答用戶問題或執行代理任務時,系統每生成一個字,都必須把數百億甚至上千億個模型參數從記憶體搬進運算核心。此時運算速度再快也沒用,真正的瓶頸完全卡在記憶體頻寬不夠寬。

執行長 Walter Goodwin 曾生動地形容,目前主流硬體運行大型模型就像是「用吸管喝水」。晶片內部的算力極為龐大,但資料透過平面電路板從外部記憶體擠進處理器的速度實在太慢,造成昂貴的運算單元經常處於閒置狀態。

傳統 HBM 高頻寬記憶體的成本與產能困境

為了解決資料搬運太慢的問題,業界目前主流做法是在處理器旁邊配置昂貴的 HBM 高頻寬記憶體。所謂的高頻寬記憶體,是透過將多層記憶晶片垂直堆疊後放在矽中介層上,藉此換取極高的傳輸通道數量。

雖然這種方案確實提升了速度,但產能長期遭到少數大廠壟斷,不僅價格高得驚人,封裝良率與供貨週期也常成為資料中心擴建的緊箍咒。只要無法擺脫對這類昂貴特製記憶體的依賴,推論成本就很難大幅壓低。

3D 堆疊標準 DRAM 如何運作?拆解記憶體優先架構的突破口

面對產能與成本雙重擠壓,這家英國新創選擇了一條與眾不同的硬體路線,不跟著大家搶購高價特製記憶體,而是直接改變晶片與標準記憶體的物理距離。

直接將標準 DRAM 垂直堆疊在邏輯晶片之上

Fractile 的核心技術稱為記憶體優先架構,做法是將市面上容易取得且成本較低的標準 DRAM 記憶體,透過 3D 立體封裝技術直接垂直堆疊在負責運算的邏輯晶片正上方。

因為距離從原本的橫向繞線縮短到微米級的垂直穿透,資料不需要再擠過狹窄的平面通道,而是能像多部電梯同時上下一樣直接灌進運算單元。這不僅大幅拉高了有效頻寬,也讓晶片不必受制於昂貴的高頻寬記憶體供應鏈。

更關鍵的是,這種立體整合能顯著縮減資料在晶片之間來回奔波的電能損耗。對於需要同時為數百萬名用戶提供即時推論服務的資料中心而言,省下來的電費與機櫃冷卻成本將非常可觀。

專攻 AI 推論與多步驟代理工作負載

這套架構並不是為了搶做模型初期的大規模預訓練,而是精準鎖定成長最快的人工智慧推論市場。特別是現在當紅的代理式工作流,需要模型在背景反覆推理、呼叫工具並即時回應,對低延遲與高併發吞吐量的要求遠高於傳統聊天問答。

透過把大量標準記憶體緊貼著運算核心,系統能更從容地容納超大規模模型權重,同時大幅降低每生成一百萬個詞元的電力與硬體折舊成本。

當代理系統需要在幾秒內連續讀取長達數十萬字的上下文脈絡時,這種高頻寬且低延遲的硬體底座就能避免整個思考流程卡在記憶體讀取上,讓多步驟推理真正具備商業實戰速度。

傳統 GPU 架構與 3D 堆疊 DRAM 推論晶片比較

為了看清這項新架構在技術路線上的取捨,以下整理主流繪圖處理器方案與這種新型推論晶片的關鍵差異:

比較項目 主流 AI GPU 方案 Fractile 3D 堆疊推論架構
核心設計理念 運算單元極大化,外掛高速記憶體 記憶體優先設計,拉近資料與運算距離
採用的記憶體 昂貴且產能緊繃的 HBM 高頻寬記憶體 供應充足、成本較低的標準 DRAM
封裝整合方式 透過平面中介層橫向連接運算與記憶體 透過 3D 技術將 DRAM 直接堆疊於邏輯晶片上方
主力應用場景 兼顧大規模模型訓練與通用推論 專精大型語言模型推論與多步驟 AI 代理
最大挑戰與風險 記憶體成本居高不下且交期較長 3D 堆疊的垂直散熱管理與量產良率考驗

從這張對照表可以看到,這套新方案巧妙避開了與主流大廠在極限算力與訓練生態上的正面對決,專門針對「推論記憶體牆」進行精準打擊。

延伸閱讀:DEEPX DX-M2 採用三星 2 奈米定案:僅 5 瓦功耗跑生成式 AI,邊緣晶片戰開打

挑戰輝達不容易:3D 堆疊商業化還得過哪三關?

拿到 7.2 億美元確實讓這家新創有了足夠的糧草,但半導體歷史上從來不缺架構驚艷卻倒在量產前夕的挑戰者。要真正把系統賣進大型資料中心,眼前還有三道實務關卡。

垂直堆疊的散熱與良率物理極限

把記憶體直接疊在發熱量驚人的運算邏輯晶片上方,聽起來很美,但在物理上卻非常考驗散熱設計。如果底部邏輯晶片產生的熱量無法順利導出,上層的標準記憶體就會因為溫度過高而出現資料錯誤甚至縮短壽命。

同時,3D 立體封裝只要其中一層出現瑕疵,整顆晶片就可能面臨報廢風險。團隊必須證明他們在進入大規模商用出貨後,依然能把封裝良率控制在具備商業競爭力的水準。

這意味著系統必須搭配精密的液冷或先進熱介面材料,才能壓住高密度堆疊帶來的熱累積效應。任何散熱設計的妥協,都可能迫使晶片降頻運作,進而抵銷架構帶來的頻寬紅利。

軟體編譯器與模型部署的遷移成本

硬體跑得再快,如果企業工程師得重寫整套系統才能把模型放上去,市場推展就會變得極為緩慢。過去許多挑戰輝達的晶片商,最後都是輸在軟體開發環境不夠成熟、除錯工具太難用。

這家新創能否提供夠聰明的編譯器,讓開發者直接把主流開源或自研模型無痛部署到這套記憶體優先架構上,將直接決定首批商用系統推出後的客戶採用意願。

雲端巨頭自研晶片的長期價格壓力

除了面對輝達的成熟生態,這套架構還得面對亞馬遜、微軟與 Google 等雲端巨頭自研推論晶片的競爭。大型雲端業者擁有自家龐大的內部工作負載可以攤提研發成本,在定價策略上極具彈性。

因此,獨立晶片新創必須在單位推論成本或超長上下文處理速度上拉出明顯差距,才能說服大型資料中心營運商在機櫃裡騰出空間來導入這套全新系統。同時,供貨穩定度與跨代架構的軟體向下相容性,也將是企業採購評估時不可或缺的關鍵指標。

常見問題

Fractile 的晶片是用來取代輝達做模型訓練的嗎?

不是。這套架構的設計初衷是專攻「AI 推論」階段,也就是讓已經訓練好的大型語言模型與代理程式能夠用更低的成本、更快的速度回答問題,而非與傳統繪圖處理器正面競爭從頭訓練模型的市場。

為什麼使用標準 DRAM 加上 3D 堆疊會比 HBM 更有優勢?

傳統高頻寬記憶體雖然速度快,但製造工序極為複雜且全球產能高度集中,導致價格昂貴且常面臨缺貨。改用供應充足的標準 DRAM 並透過立體堆疊縮短傳輸距離,能在壓低物料成本的同時突破記憶體頻寬限制。

英國主權 AI 基金投資這家公司有什麼特別意義?

這顯示歐洲與英國政府正積極尋求算力自主,希望在美系晶片大廠之外扶植出本土具備競爭力的硬體架構,確保未來國家級基礎設施與企業在執行 AI 推論時有更多元的硬體選擇。

一般企業或開發者什麼時候能買到或租用這套系統?

公司目前剛完成 C 輪融資並將資金投入商業化量產階段,正在準備首批商用晶片與完整系統的出貨事宜。實際對外大規模供貨與雲端租用時程,仍需觀察後續封裝良率驗證與雲端合作夥伴的導入進度。

結語

這場高達 7.2 億美元的融資案再次提醒整個科技業,AI 硬體戰已經從單純比拼運算力,正式轉向解決「記憶體頻寬與推論成本」的架構創新。

這項技術路線最適合關注下一代資料中心降本增效的雲端基礎設施規劃者、半導體供應鏈分析師,以及高併發代理系統的架構師持續追蹤。一旦 3D 堆疊標準記憶體方案順利量產,推論單位成本有望迎來結構性下降。

相反地,如果你是一般中小企業或急著在未來半年內擴充算力的開發團隊,現階段並不適合把希望全押在尚未大規模商轉的新創硬體上。選擇供應穩定、軟體生態成熟的現成雲端算力,才是現階段最務實的選擇。

硬體架構的典範轉移往往需要好幾年的良率與生態磨合,誰能率先解決散熱與編譯器難題,誰就有機會成為推論時代的新霸主。

想第一時間掌握全球 AI 晶片架構突破、先進封裝動態與算力經濟學深度剖析,歡迎立即免費訂閱 AI 郵報,每週為你整理最關鍵的產業趨勢。

資料來源

Read more