9月17日,在蘇州舉行的第四屆全球人工智慧產品應用博覽會(AIExpo2021)上,浪潮釋出新版AIStation人工智慧推理服務平臺,為快速發展的人工智慧應用提供強大的服務管理支撐,並可統一高效排程多款國際國內領先的AI晶片的算力,幫助企業和智算中心充分發揮多元算力作用,加速AI應用場景落地。
據悉,浪潮全新升級的AIStation平臺實現了對GPU、FPGA、ASIC等異構加速晶片的插拔式使用,各晶片廠商透過適配浪潮提供的晶片對接規範即可快速接入AIStation平臺。幫助使用者降低對多元AI晶片的使用和管理難度。AIStation平臺還實現了多元算力的統一管理及排程,為生產環境算力執行提供一致的監管功能,對GPU、MLU等AI晶片的效能狀況、AI業務流量及響應延時進行實時監控,並根據監控資料進行分析、決策、執行操作,實現服務算力的自動調節、自適應推理業務突發資源擴充套件需求。
在宣佈AIStation平臺升級的同時,浪潮也釋出了全新的晶片對接規範,這是國內首個由廠商制定的多元化AI晶片適配規範。該規範包括AI晶片外掛規範和AI晶片監控介面規範,實現了晶片註冊、資源發現、資源排程,並可實時監控晶片的健康資訊、執行狀態、效能資料。據悉,首批完成規範認證的AI晶片數量已達12款,包括寒武紀、崑崙芯、高通、鯤雲等。
以上成果背後,彰顯出浪潮不斷突破、持續領先精進的AI全棧能力。在此方面,浪潮早在多年前就開始佈局,主要是從計算平臺、管理套件、框架最佳化、應用加速四個層次出發,致力於打造敏捷、高效、最佳化的AI基礎設施。
在軟體平臺方面,浪潮為AI應用提供了一款名為AIStation的管理套件,它實現了對計算、儲存、網路等基礎資源的管理和排程,同時集成了主流的AI開源框架和深度學習模型,提供完整的AI開發工作流服務,助力企業加快AI開發步伐。在應用框架上,浪潮提供了包括Caffe-MPI在內的多種最佳化。其中,Caffe-MPI保留了伯克利版本Caffe架構的優良特性,同時又針對高效能計算系統設計使之具備良好的並行擴充套件性。
歷經多年積累,浪潮已擁有業界最全的AI計算產品陣列,涵蓋AI計算基礎設施層、AI叢集管理平臺和AI軟體演算法開發框架。當下,浪潮正在加大進行AI技術投入與生態佈局,已經在教育、金融、鐵路、電力、交通、智慧城市、石油石化等行業領域實現了產業AI化落地,大大促進了各行業的產業AI化轉型升級。