當前,我國正加速打造新一代人工智慧算力基礎設施,智算中心作為普惠型人工智慧新型基礎設施在政策扶持、多地發展需求推動下,目前已在各地掀起落地潮。近期,南京已率先落地了計算能力達每秒80億億次的南京智慧計算中心,將有效推動長三角地區智慧產業創新集聚與經濟能級提升。
隨著多地智算中心相繼建成使用,將面臨愈加複雜多元的應用場景。為幫助智算中心充分發揮多元算力作用, 9月17日,浪潮全新發布AIStation人工智慧推理服務平臺,可統一高效排程多款國際國內領先的AI晶片的算力,著力解決智算中心面臨的計算資源排程與管理難題,加速AI應用場景落地。
據悉,智算中心普遍具備規模龐大、應用多樣、使用者廣泛等特徵,以南京智慧計算中心為例,計算節點近1000個,支撐著科技金融、智慧製造、智慧零售、智慧醫療、智慧交通等眾多領域的應用創新,承擔的應用場景最為複雜和多元。如何讓底層的多元化AI算力靈活支援上層的多樣化AI應用,已成為智算中心創新效率的關鍵所在,迫切需要高效地排程算力。
對此,浪潮釋出的AIStation人工智慧推理服務平臺可支援AI訓練和推理,是業界功能最全的AI管理平臺,可提供AI模型開發和部署一站式交付,透過高效的算力排程,賦力智算中心獲取更多創新可能。本次釋出的AIStation最新版,著力解決智算中心面臨的多元化算力、計算資源排程與管理難題。
針對當前多元化算力的應用困局,浪潮此次釋出的新版AIStation推理服務平臺實現了對英偉達、寒武紀、崑崙芯、高通等6家國際國內廠商的12款AI和GPU晶片的多元算力支援。AI晶片可透過適配浪潮提供的AI晶片算力接入規範即可快速接入AIStation平臺,幫助使用者降低對多元AI晶片的使用和管理難度。AIStation平臺實現多元算力的統一管理及排程,為生產環境算力執行提供一致的監管功能,對GPU、MLU等AI晶片的效能狀況、AI業務流量及響應延時進行實時監控,並根據監控資料進行分析、決策、執行操作,實現服務算力的自動調節、自適應推理業務突發資源擴充套件需求。
AIStation是業界首個支援多元AI晶片算力的人工智慧服務平臺,打通了多元AI晶片從接入、管理、排程、適配到應用的路徑,透過構建AI晶片算力接入規範實現多元算力的標準化管理,為產業AI化和智算中心建設提供高效便捷的AI算力排程,讓AI應用和AI服務更便捷,助力使用者充分使用多元算力實現AI技術創新和落地。目前,浪潮AIStation推理服務平臺已在諸多客戶獲得成功應用,在新基建、網際網路、金融、保險、交通、手機通訊、智慧汽車、智慧城市等多個AI場景發揮著重要作用。
在推動智算中心建設層面,2021上半年浪潮率先佈局。目前,圍繞智算中心的算力、資料、互聯以及平臺,浪潮已經形成完整、成熟的創新產品體系佈局,在算力層面包含了AI算力、通用算力、關鍵算力以及邊緣側算力,在資料儲存領域,涵蓋集中、分散式資料儲存以及大資料分析平臺;在互聯層面,擁有開放網路系統以及實現加速資料流動和排程的智慧網絡卡;在平臺層面,浪潮擁有具備軟體定義特徵的元腦OS,在實現智算中心的智慧化管控和運維的基礎上,提供算力的匯聚、排程、釋放……多措並舉,加快推動各地智算中心的建設程序。