作者 | 程茜
編輯 | 心緣
2021年,AI晶片戰場依然烽火連天,但國內外卻呈現出兩番光景。
在國內,BAT網際網路大廠自研AI晶片均已揭曉,超40家AI晶片企業今年拿下新融資。地平線、黑芝麻智慧、燧原科技、壁仞科技、崑崙芯、摩爾執行緒等企業的估值均超100億人民幣。高額融資、新品釋出、量產成績公佈等不勝列舉。
相比國內的繁榮,歐美AI晶片的多數風頭卻被科技巨頭佔據,英偉達在雲端訓練市場風光無二,英特爾繼續主導推理市場,率先闖進獨角獸陣營的歐美AI晶片獨角獸僅有6家。
AI晶片,這一網際網路巨頭們爭相佈局的硬科技領域,為何在國外市場沒有掀起大量融資浪潮?我們從其核心團隊、融資情況、釋出產品等資訊進行了梳理。
這6家獨角獸集中成立於2016-2017年,分別是拿到谷歌、英特爾投資的SambaNova Systems,憑藉全球最大晶圓級晶片爆紅的Cerebras Systems,英國唯一AI晶片獨角獸Graphcore,由谷歌TPU初始團隊創立的Groq,晶片大神Jim Keller加盟的Tenstorrent以及以色列的AI晶片獨角獸Hailo Technologies。
截止2012年12月歐美AI晶片六大獨角獸公司融資、產品情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)
憑藉領先的創新技術與落地程序,這6家歐美AI晶片獨角獸代表,正將影響力輻射至全球科技圈。
一、SambaNova:甲骨文元老、斯坦福教授創立,獲谷歌英特爾投資
6家獨角獸中,SambaNova Systems估值最高,最新一輪融資總額也遙遙領先。
這家美國的AI晶片公司成立於2017年,總部位於美國加州帕洛阿爾託,2019年春季已釋出第一款Cardinal雲端訓練晶片,落地於美國阿貢國家實驗室、美國能源部旗下國家核安全管理局(NNSA)等多個研究機構。
值得一提的是,投資SambaNova Systems的投資方不僅包括活躍的投資機構日本軟銀、淡馬錫等,還有谷歌、英特爾等知名科技巨頭。
SambaNova Systems融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)
今年4月,該公司獲得最新一輪6.76億美元的D輪融資,融資後估值超過50億美元,一舉躍升歐美估值最高的AI晶片公司。
SambaNova Systems由曾在甲骨文任職的羅德里戈·梁(Rodrigo Liang)以及斯坦福大學教授昆勒·奧魯克頓(Kunle Olukotun)、克里斯·雷(Chris Ré)聯合創辦。
SambaNova Systems創始人昆勒·奧魯克頓(左)、羅德里戈·梁(中)、克里斯·雷(右)
其中奧魯克頓是斯坦福大學晶片多處理器專案的負責人,雷是斯坦福大學計算機科學系副教授、麥克阿瑟天才獎的獲得者,並在統計機器學習小組和斯坦福大學AI實驗室開展研究工作。
2021年4月,SambaNova Systems推出了其第二代雲端AI晶片可重構資料流單元Cardinal SN10 RDU,包含400億電晶體,採用臺積電7nm製程,由一系列可重構節點組成,用於資料儲存和交換。每個Cardinal晶片有6個控制器用於記憶體,可實現153 GB/s的頻寬,8個晶片以全配置連線。
SambaNova Systems第二代雲端AI晶片Cardinal SN10 RDU
SambaNova Systems的AI晶片並不會單獨出售,而是作為一種安裝在資料中心上的解決方案配套出售。目前其SambaNova Systems的旗艦產品是訂閱型的AI服務平臺SambaNova DaaS,與其整合軟體和硬體系統平臺DataScale一起使用。
SambaNova Systems AI服務平臺SambaNova DaaS
SambaNova Systems的AI晶片以及它的客戶在很大程度上仍處於保密狀態。其產品自2020年以來已進入美國能源部下屬的勞倫斯·利弗莫爾國家實驗室和阿貢國家實驗室。SambaNova Systems主要是根據客戶需求定製產品,並提供一套預設的網路和管理功能,並由SambaNova Systems進行遠端管理。
二、Cerebras:打造全球最大晶片,今年解鎖“人腦級”AI模型
2019年8月,美國矽谷創企Cerebras Systems推出的世界最大晶片引爆晶片圈。今年4月,這家公司推出了巨芯二代WSE-2,可處理超級計算任務,搭載WSE-2晶片的AI超算系統CS-2也同期釋出。
這家以巨型晶片聞名的獨角獸公司成立於2016年,總部位於美國加州洛斯阿爾託斯。就在今年11月10日,Cerebras Systems宣佈,獲得2.5億美元F輪融資,總融資額達到7.5億美元,投後估值超40億美元。
Cerebras Systems融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)
Cerebras Systems由加里·勞特巴赫(Gary Lauterbach)和安德魯·費爾德曼(Andrew Feldman)聯合創立。
值得一提的是,加里和安德魯曾經還聯合創辦了專注於超高密度計算機伺服器業務的Seammicro公司,這家公司在2012年被AMD以高達3.57億美元的價格收購。
Cerebras Systems創始人安德魯·費爾德曼(Andrew Feldman)(左)和加里·勞特巴赫(Gary Lauterbach)
今年4月,Cerebras Systems又推出了巨芯二代Wafer Scale Engine 2(WSE-2),該晶片為超級計算任務而構建,具有破紀錄的2.6萬億個電晶體和85萬顆AI最佳化核心,大小類似餐盤,採用臺積電的7nm工藝。
今年8月,Cerebras Systems宣佈推出世界上第一個人類大腦規模的AI解決方案,一臺CS-2 AI計算機可支援超過120萬億引數規模的訓練。相比之下,人類大腦大約有100萬億個突觸。
此外,Cerebras Systems還實現了192臺CS-2 AI計算機近乎線性的擴充套件,從而打造出包含高達1.63億個核心的計算叢集。
Cerebras Systems人腦規模AI解決方案的技術組合
目前,Cerebras Systems的AI超算系統CS-2只有少數客戶可以使用,它的客戶集中於軍事、實驗室等。Cerebras Systems重量級客戶包括美國阿貢國家實驗室、勞倫斯利弗莫爾國家實驗室、匹茲堡超級計算中心、愛丁堡大學的超級計算中心、葛蘭素史克、東京電子器件等。
三、Graphcore:英國唯一AI晶片獨角獸,與阿里、百度建立合作
作為闖入中國AI晶片市場的少數國外獨角獸之一,Graphcore已經與阿里巴巴、百度建立合作。該公司為阿里巴巴的HALO專門定製程式碼,並加入了百度的飛槳硬體生態聯盟。
這家公司還是英國的唯一一家AI晶片獨角獸。Graphcore成立於2016年,總部位於英國布里斯托爾。2020年7月,Graphcore推出第二代雲端訓練晶片GC200。
最新一輪融資後Graphcore估值達27.7億美元,這使得它成為歐洲市值最高的晶片初創公司。
此前,Graphcore高階副總裁、中國區總經理盧濤在接受芯東西等媒體採訪時談道,當下Graphcore面臨唯一的巨頭挑戰是英偉達。而Graphcore和英偉達的淵源不止於此,Graphcore的創始人Nigel Toon此前創立的晶片公司Icera,於2011年被英偉達收購。
Graphcore的聯合創始人Nigel Toon(左)和Simon Knowles
Graphcore此前共經歷了6輪融資,最新一輪融資在2020年12月29日公佈,融資金額高達2.22億美元,是6筆融資中金額最高的。Graphcore已經獲得超過4.5億美元的融資,戰略投資者不乏寶馬、博世、戴爾、微軟、三星等各行業巨頭。
Graphcore融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)
Graphcore的AI晶片為智慧處理單元IPU,採用自研大規模並行同構多核架構,包含1216個獨立IPU核心。
Graphcore研發的GC200晶片基於7nm工藝,最多可以連線64000個晶片來建立一個巨大的並行處理器,其計算能力約為16 exaFLOPS。這樣的系統將能夠支援具有數萬億個引數的AI模型。
基於第二代IPU晶片GC200,Graphcore還構造了大規模系統級產品IPU-M2000以及模組化機架規模解決方案IPU-POD系統。
Graphcore的IPU-POD系統可以將AI計算和伺服器進行分解,以最佳化其解決方案為不同的AI工作負載提供最高效能。
值得注意的是,Graphcore也開始在中國市場大展拳腳。Toon曾在接受採訪時說,中國是支援Graphcore AI計算應用增長最快的市場,並正式定名為“擬未科技”。Graphcore將與中國的生態聯盟共同推廣新的AI應用程式,並幫助建立行業標準。
在去年5月的Wave Summit 2020深度學習開發者峰會上,Graphcore宣佈成為百度飛槳硬體生態圈共建計劃夥伴之一,加速機器視覺、自然語言處理等演算法模型與硬體的適配與落地。
四、Groq:主攻計算機視覺,前谷歌TPU團隊創立
2016年底,谷歌TPU核心團隊中喬納森·羅斯(Jonathan Ross)悄悄離職,與同樣出身谷歌的道格拉斯·懷特曼(Douglas Wightman)在美國加利福尼亞創立了一家機器學習系統公司。這家公司就是美國的獨角獸AI晶片初創公司Groq,它成立於2017年,總部位於美國加州山景城。
最新一輪融資完成後,該公司估值已超10億美元。
谷歌的TPU團隊負責研發用於加速機器學習的定製晶片,曾幫助軟體程式AlphaGo(阿爾法狗)擊敗傳奇圍棋玩家李世石。而Groq的創始團隊中有8名都出身於谷歌的TPU核心團隊。
此前,Groq共經歷4輪融資,2021年4月,Groq獲得最新一筆融資,金額為3億美元,由Tiger Global Management和億萬富翁Dan Sundheim投資。該公司前4輪融資總額僅為6230萬美元,新一輪融資完成後,其融資總額達到3.623億美元。
Groq融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)
2019年11月,Groq推出了張量流處理器TSP架構,該架構是世界上第一個能在單個晶片上每秒執行1000萬億次(1000 TOPS)操作的晶片架構,專門針對計算機視覺、機器學習和其他AI相關工作負載的效能需求而設計。
Groq的TSP架構受軟體優先的啟發,能夠實現實現計算靈活性和大規模並行性。目前已經在x86和非x86系統的客戶站點上執行。
同時期,Groq推出了其首個雲端推理晶片GroqChip,可以實現16個晶片間互連和230 MB SRAM,靈活整合到嵌入式應用中,算力可達750 TOPS。
GroqChip還使用TSP架構,使其能夠在記憶體中儲存更多的模型,以高計算效能處理資料,這使得它非常適合從大型資料集進行推理。
除此之外,該公司堅持“以軟體為先”,其編譯器能處理硬體中的控制功能,例如執行計劃等。Groq的軟體還可精心編排所有資料流和所需時序,以確保計算不會出現停頓,並在編譯時完全可預測延遲、效能和功耗。
2020年,美國阿貢實驗室的科學家們使用GroqChip建立了SARS-CoV-2病毒的機器學習模型。
第一代晶片釋出後,Groq稱正在研發第二代新型晶片,但截至現在,還沒有檢索到二代晶片的相關資訊。
羅斯談到,機器的學習效果是具有隨機性的,想要他們正確應對各種複雜的情況是非常困難的,當隨機情況發生的時候,需要完成所有可能的計算,才能達到機器學習的最最佳化,這使得執行起來的成本大大增加。而Groq的晶片構架就可以為機器學習和AI應用帶來客觀的效能提升。
五、Tenstorrent:兼顧高算力和可擴充套件,獲晶片大神加盟
傳奇晶片設計大神Jim Keller去年6月從英特爾辭職後,今年1月宣佈加盟加拿大AI晶片創企Tenstorrent,擔任CTO兼總裁。
手握本科學歷的Jim Keller,人送外號“矽谷遊俠”,1998年從業以來,20年間輾轉於多家大型科技公司,不乏AMD、蘋果、特斯拉、英特爾等頂尖企業,這位技術大牛不斷革新半導體行業的發展,屢屢研發出里程碑式的晶片。
2020年6月,這位業界傳奇人物從英特爾離職,他的去向備受業界關注。但出乎多數人的預期,這個答案在今年1月揭曉——Jim Keller選擇加盟了一家AI晶片公司Tenstorrent。
之所以做出這樣的選擇,Jim Keller在接受外媒專訪時予以回應:“目前爆發性增長的AI晶片領域,Tenstorrent更像是一張白紙。我在公司中擁有大量股權,公司CEO Ljubisa Bajic也是我的老朋友,無論是基於財務還是對朋友的承諾,我都會選擇暫時待在這裡。”
Jim Keller(左)和Tenstorrent創始人Ljubisa Bajic
Tenstorrent於2016年創立,總部位於加拿大多倫多市。最新一輪融資完成後,這家公司的估值達到了10億美元的級別。2020年4月,Tenstorrent推出其第一款AI晶片Grayskull,可以兼顧AI訓練和推理任務。
Tenstorrent此前共經歷4輪融資,最新一輪融資在2021年5月20日,完成了超過2億美元資金的C輪融資,由私募股權機構富達管理(Fidelity Management)領投。
Tenstorrent融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)
2020年4月7日,Tenstorrent釋出其首款AI晶片Grayskull。同年年底,Grayskull開始量產,並逐漸向早期客戶出樣。
Grayskull處理器配備Tenstorrent定製的Tensix能夠提供368 TOPS。每個Tensix核心具備完全C++可程式設計、多執行緒、前端功能;高面積和功率效率矩陣計算引擎;強大靈活的SIMD引擎等。
Tenstorrent推出的第一代AI晶片Grayskull
相較市面上現有AI晶片產品,Grayskull不僅能兼顧高算力和低能耗,還具備高度可擴充套件的特點,可擴充套件到10萬個節點,支援從小型嵌入式裝置到大型資料中心的AI推理和訓練任務。
Tenstorrent的研究人員設計了一個能實現細粒度條件執行、動態稀疏處理的完全可程式設計體系結構,可將較大資料組的複雜計算任務分解成多個較小資料組的計算,由晶片上的各個核心進行獨立的處理。
其研究人員稱,該處理器新的架構方法將透過適應模型的確切輸入並緊密整合計算和網路,使處理器能夠隨著AI模型的持續增長而擴充套件。
2021年6月,外媒SemiAnalysis報道,Tenstorrent正在研發的第二代AI晶片Wormhole,將更注重訓練而不是加速,並捆綁在16×100 G乙太網埠交換機中。
Jim Keller加盟後談道,Tenstorrent的目標是將高效能的AI晶片與一種新方法相結合,利用AI來最佳化低階軟體功能,透過這種被稱為Software 2.0的方法來提高效率和運算速度。Jim Keller將為Software 2.0提供所需的硬體解決方案。
六、Hailo:以色列獨角獸,中國資本參投
以色列AI晶片獨角獸Hailo Technologies成立於2017年,總部位於特拉維夫,主打為邊緣裝置提供資料中心效能。以色列國防軍以黑科技著稱,是以色列科技界的中堅力量,Hailo Technologies的創始人奧爾·達農(Orr Danon)就來自以色列國防軍精英技術小組。
今年完成最新一輪融資後,Hailo Technologies的總估值約為10億美元,正式晉升獨角獸企業。
此前,有中國投資公司上海耀途資本參投,這家投資公司聚焦物聯網、大資料、雲計算及AI領域。
該公司共經歷4輪融資,最新的一輪是2021年10月12日,融資金額為1.36億美元,其融資總額已經達到2.239億美元。
Hailo Technologies融資情況(以上整理自公開網路資訊,如有錯漏,歡迎溝通指正)
目前Hailo已推出一款AI推理晶片Hailo-8及M.2和Mini PCIe加速模組,分別在2019年5月和2020年10月推出,AI推理晶片Hailo-8已經實現量產。
2019年5月,Hailo Technologies釋出了超效能創新架構AI晶片Hailo-8,該晶片效能高達26 TOPS,並且具有超小的面積和功耗,晶片尺寸均小於1美分。
Hailo Technologies推出的AI晶片Hailo-8
Hailo Technologies的Hailo-8深度學習晶片可在邊緣提供資料中心級晶片的效能,同時在尺寸、效能和功耗方面擊敗競爭的邊緣處理器。
2020年10月,Hailo Technologies宣佈推出基於Hailo-8晶片M.2和Mini PCIe高AI加速模組,該公司稱已經與富士康展開合作,將M.2模組整合到其 “BOXiedge”邊緣計算平臺中。
IBM、英特爾、三星電子、阿里巴巴等跨國科技巨頭已經在研發過程中注意到了該公司的技術,它們已經有部分技術引用了Hailo Technologies公司的專利。
今年10月,Hailo Technologies稱正在努力將其晶片構建到原始裝置製造商(OEMs)和一級汽車公司的產品中,這些領域包括先進的駕駛輔助系統以及機器人、醫學、智慧城市和家庭等。
結語:AI晶片產品各異,創企如何突出重圍?
經過四五年的磨礪,這6家歐美AI晶片獨角獸的自研晶片產品已經開始走向落地。可以看到,多家的首批客戶集中於大型實驗室,商業化程度還相對有限,其中Graphcore已率先發力中國市場。
與此同時,系統化已經是今年AI晶片產業呈現的一大趨勢。AI晶片獨角獸在其自研晶片的基礎上,已經陸續打造從板卡、伺服器、軟體到叢集的更完整系統級解決方案,並公佈更多的應用案例,來展現其技術實力和商用價值。
相比國內,歐美AI晶片創企面臨的生存壓力往往更甚,它們直面英偉達、英特爾等晶片巨頭已經構築的深厚生態壁壘,又缺少國產化替代等外部環境特定的激勵,此前有些AI晶片創企已經被巨頭企業收購,也曾有明星企業走向破產重組。
作為AI技術的底層驅動,AI晶片行業發展態勢不可逆轉,更多半導體大公司、網際網路巨頭和創業公司開始佈局這一領域。而如何在一眾強手中突出重圍,將是AI晶片企業們面臨的關鍵考驗。