老师办公室狂肉校花h,熟女体下毛毛黑森林,一个人在线视频免费观看WWW,年轻护士的滋味中文字幕

奇異摩爾祝俊東:破局AI算力之困 “互聯”將成關鍵|連線創始人
原創
2025-01-17 16:39 星期五
科創板日報記者 郭輝
①奇異摩爾祝俊東表示,Chiplet技術具有較強的延展性及靈活性,可集成或應用于其他類型的芯片產品開發中,如萬卡乃至十萬卡之間的集群互聯解決方案;
②隨著Chiplet技術的應用,芯片產業從過去的單向直線形流程,已變為一個個環路。

《科創板日報》1月17日訊(記者 郭輝) Chiplet被認為是應對摩爾定律放緩、解決芯片高性能運算需求的一大技術方向。近兩年的產業成熟,使得Chiplet的技術愿景變得更加清晰。

在位于上海張江的中科創星張江硬科技孵化器園區,奇異摩爾2024年正式入駐于此。這是一家成立于2021年3月的芯片公司,起初,Chiplet技術是他們身上最鮮明的標簽。經過近四年的成長,奇異摩爾如今構建了一套涵蓋Scale Out(網間互聯)、Scale Up(片間互聯)、Scale Inside(片內互聯)的AI網絡互聯全棧式產品體系。

image

面對生成式AIGC爆發這一契機,奇異摩爾在Chiplet技術基礎上對企業自身的定位和發展上做了哪些戰略升級與規劃?AI算力需求發展為這家企業帶來了哪些機遇?

近期,奇異摩爾聯合創始人、產品及解決方案副總裁祝俊東接受了《科創板日報》記者的專訪,并對以上問題進行了深入解讀。

image

祝俊東表示,Chiplet依然是奇異摩爾的技術基礎,該公司也由片內互聯業務為切入,布局了以“互聯”為核心關鍵詞的產品體系。

隨著算力集群的發展,奇異摩爾始于幾年前的布局,構建了一整套平替國際領先廠商的Scale Inside芯片內互聯、Scale Up超節點GPU片間互聯及Scale out超大規模服務器集群間互聯的產品解決方案,未來可能將迎來遠超市場想象的成長速度。

從片內到多維度互聯解決算力難題

面向北向Scale Out網絡的AI原生智能網卡、面向南向Scale Up網絡的GPU片間互聯芯粒,以及面向芯片內算力擴展的2.5D/3D IO Die和UCIe Die2Die IP等,這些產品共同構成了奇異摩爾全鏈路互聯解決方案。

奇異摩爾聯合創始人、產品及解決方案副總裁祝俊東接受《科創板日報》記者專訪表示,早在公司創立初期,就已對現有的產品體系進行了完整規劃。然而,在Chatgpt帶來了AI產業變革后,計算集群的算力問題,要在比他們幾年前預想的要更早到來。

“‘互聯’,是要實現計算單元和存儲單元的連接,需要從微觀到宏觀的一整套架構和產品。這項工作是一個復雜且長期的工程。”祝俊東表示,因此,奇異摩爾最初從Chiplet的片內互聯為切入口,想要首先解決芯片本身的算力問題。

于是,奇異摩爾在完成片內互聯產品開發后,開始布局片間互聯跟網間互聯類產品,用以解決更大規模的算力問題,目前該公司的發展也正沿著這一方向行進。

祝俊東表示,Chiplet作為產品系列的技術基礎,具有較強的延展性及靈活性,可集成或應用于其他類型的芯片產品開發中,比如萬卡乃至十萬卡之間的集群互聯解決方案。

image

提到計算集群的算力調度功能,不免讓人想到傳統網卡以及近年同樣火熱的DPU產品。

關于奇異摩爾現有的網間互聯產品與其他類似產品功能的區別,祝俊東表示,公司會把正在做的產品歸為AI原生的智能網卡產品。“要實現幾百G、上Tb級別數據帶寬的服務器卡間數據交互,這是計算在不同階段、針對不同類型任務的產物,也是公司產品功能的差異化特點”。

祝俊東表示,在云計算階段,傳統網卡或DPU需要把全部網絡連接在一起,并將計算集群面向千萬用戶進行分配和管理。其中,DPU同時還兼具為CPU卸負載的功能。而在智算階段,尤其是面向大模型訓練需求時,通常需要萬卡共同針對一個任務進行處理,對應的網間數據交互量較大,因此對智能網卡實現高效、高性能的數據交互形成需求。

隨著AI應用需求增多、算力集群設計變得更加復雜。祝俊東認為,智算中心硬件設計未來會有三大明顯的發展趨勢。

一是基于現有標準,將會出現諸如智能網卡的功能產品,去適應在數十萬甚至百萬卡的集群之間實現高速互聯和數據交互。新一代的智能網卡主要面向AI網絡,尤其是在分布式訓練、大規模推理的應用場景中,較DPU能夠具備更少的計算能力及更低成本。

二是龐大算力集群需要設置“超節點”GPU片間互聯超高帶寬域,實現高規模的更高帶寬集群,以近似1個GPU的形式工作。現在英偉達NVL576就是通過NVLink和NVSwitch實現超高速連接,讓576張卡像一張卡運行,且英偉達也在行業內走得靠前。

據介紹,Scale Up是近幾年很火的技術方向,目前業內正探索Scale Up加速器網絡的速度能夠實現Scale Out網絡10倍以上的數據連接,提升訓練和大規模推理方面的效能。

三是通過將CPU、GPU合封,形成異構計算芯片。目前英偉達GB200已實現不同類型計算單元的異構連接。

網間互聯與片內互聯產業應用率先突圍

以奇異摩爾現有的幾大業務板塊來看,行業內Scale Out、Scale Up、Scale Inside的三方面需求都在不同程度快速增長當中。祝俊東表示,其中奇異摩爾Scale Out與片內互聯類業務“跑得最快”。

其原因不難理解。首先,目前智算中心處于高速建設期,需要構建高性能的Scale Out網絡。祝俊東表示,其對應的市場容量和規模以及產品方案的單價都非常可觀,且預計每一個集群構建Scale Out網絡的成本占比,都要從過去的10%以上提升到至少兩成。

其次在片內互聯產品方面,祝俊東觀察到,從2023年開始越來越多的算力芯片幾乎都開始基于Chiplet技術進行開發。據透露,奇異摩爾目前的片內互聯產品已實現應用落地并持續進行開發升級。

而Scale Up片間互聯市場目前仍在發展期。祝俊東表示,現在業內已經關注到了超節點對大模型訓練的重要性,因此都在加大對相關開發的投入,并且也開始有行業聯盟與行業標準出臺,進一步推動超節點的應用。另外,多元化的GPU廠商發展使得異構式訓練明顯增長,也催生了對于通用Scale Up的需求。祝俊東表示,預計未來三年內應該會有比較快速的增長和發展。

“在Chiplet生態中,我們一共做三件事情,其一是與行業標準組織構建Chiplet芯粒庫,這可以幫助行業在未來降低芯粒選擇的難度;二是與產業鏈中的‘大廠’合作,研究不同廠商之間的互聯互通,并把項目變成一個可以實際落地的系統級的芯片項目。”祝俊東表示,其中奇異摩爾主要提供部分芯粒以及基礎技術,從而實現與其他芯粒資源和客戶資源形成鏈接,為市場提供定制化的芯片解決方案。

以Chiplet為基礎的Scale Inside片內互聯技術,在近兩年封裝技術突破以及產業化分工合作中快速發展,產品也在高端算力場景中得到深入應用,同時,該技術為半導體產業帶來的變革也立竿見影。

祝俊東表示,芯片產業從過去的單向直線形流程,隨著Chiplet技術的應用,已經變為一個個環路,從設計到制造環節都需要前后觀照。其次,Chiplet本身是系統功能的再分,在供應方與需求方之間能夠產生比較好的協同,將需求過程理順并完成產品定義;再者,不同廠商之間的芯粒互聯互通已進入產業化實踐階段,已然改變過去分工合作的模式。

Chiplet技術進展與產業變革之間相互影響,誕生于上海這片國內半導體產業最集中的區域。

祝俊東表示,Chiplet技術生態涉及半導體全產業鏈合作,從最早的EDA、IP到系統級的芯片設計,再到芯粒、封裝,需要完整的、閉環的產業融合,上海張江是全國范圍內半導體產業鏈最為完整的地方。“在張江的產業環境中,我們可能在5公里范圍內就把這個事情組合起來,這對產業新興技術的開發是一個很重要的事情。”

上海的大型SoC廠商尤為多,這意味著下游有大量的產業可形成牽引,包括數據中心、汽車等,而Chiplet技術的應用落地也離不開豐富的應用場景。在祝俊東看來,基于此,目前來看,張江在這方面也有著得天獨厚的環境。

收藏
68.85W
我要評論
圖片
歡迎您發表有價值的評論,發布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發表評論
要聞
股市
關聯話題
9236 人關注
9.14W 人關注
主站蜘蛛池模板: 南京市| 华坪县| 金华市| 来凤县| 应城市| 汝州市| 弋阳县| 乳山市| 航空| 石门县| 卢湾区| 博湖县| 布尔津县| 德昌县| 藁城市| 禹州市| 高雄县| 江都市| 天峨县| 新源县| 虹口区| 海盐县| 毕节市| 九龙城区| 苏尼特左旗| 大埔区| 沙湾县| 新竹市| 尼勒克县| 静海县| 望都县| 额济纳旗| 甘南县| 东至县| 柳林县| 凤城市| 顺昌县| 清流县| 延安市| 易门县| 平果县|