在過去幾年,全球的資料量快速增長,型別也不斷豐富,模型訓練擁有海量的優質樣本, 常規的計算能力遠遠無法應對複雜多樣的新需求,為此,南京坤前計算機科技有限公司提出了基於深度卷積神經網路的影象、語音、文字識別軟硬體一體化解決方案。方案基於第三代英特爾 至強 可擴充套件處理器,結合英特爾 OpenVINO 工具套件在推理中的優異效能表現,為智慧製造、智慧交通等行業客戶提供一站式部署以及前所未有的便利與高效能,真正實現雲邊協同。
在“新基建”驅動的數字經濟下,隨著大資料、AI等技術的快速創新和發展,各行業資料呈現出了井噴式的需求,尤其深度學習領域,隨著人臉識別、拍照識別、物體識別新型場景的出現,需要新的技術和方案支撐。
基於深度學習的影象識別技術發展痛點是用來訓練識別模型的樣本資料不足,使得模型精準度往往不高;再加上影象識別演算法不夠先進,還主要停留在淺層訓練的機器學習階段,但更大的挑戰來自於演算法和硬體計算架構,計算機叢集效能不夠,計算用時太長,大大拉長了研發週期、拖慢產品程序。
坤前AI算力整合解決方案透過軟硬體最佳化,深度融合機器學習平臺與傳統硬體,將第三代英特爾 至強 可擴充套件處理器作為核心算力支撐,並深度整合英特爾 OpenVINO 工具套件,充分利用英特爾 AVX-512指令集和英特爾 深度學習加速技術,能有效實現異構資源的高效管理、排程和監控,提供了從模型開發、訓練到部署的完整流程和工具。
人工智慧推理與訓練全流程圖
坤前AI算力整合解決方案採用坤前自研的坤前AI管理平臺,將CPU資源、GPU資源、記憶體、硬碟等資源虛擬化後進行統一管理,按需分配給不同使用者和群組使用,可助力工業網際網路、智慧製造和人工智慧企業更快地進入深度學習研發領域,更快地推出能夠解決實際問題和需求的產品。極大降低人工智慧進入門檻,提高人工智慧創新和研發的效率。
1、計算節點:
在計算節點中,坤前 KI4200G 系列伺服器可滿足使用者對空間部署和高效能的需求,是一款基於英特爾 至強 可擴充套件處理器平臺設計開發的 4U 雙路機架式伺服器。在 4U 高度空間中體現了效能、擴充套件性和密度的完美融合,可適用於能源、電力、製造業等行業對虛擬化、雲計算、深度學習推理計算相關應用的需求。
- 最大支援 2 顆英特爾 至強 可擴充套件系列處理器,支援更多核心,支援英特爾 AVX-512 指令集處理器之間採用更多、更快的 UPI 匯流排,大幅提升CPU 之間協作效率;
- 最大 24 DIMM 記憶體插槽,6TB 3DS ECC DIMM/LRDIMM DDR4 2933MHz,使用最新高效能記憶體,顯著提高記憶體讀寫速率;
- 支援英特爾 傲騰 持久記憶體;
- 可選 SAS RAID 卡,支援 RAID 0/1/5/6/50/60,支援 Cache 超級電容保護,提供 RAID 狀態遷移、RAID 配置記憶等功能;
- 最大可提供8個 PCI-E 3.0 × 16 或 20 個 PCI-E 3.0 × 8的擴充套件支援。
2、AI管理平臺:
坤前AI管理平臺從基本業務需求出發,採用虛擬化技術進行資源的排程和分配,支援主流機器學習框架(如TensorFlow、Caffe、PyTorch、Keras等),提供深度學習的演算法庫(LeNet、MLSTM、AlexNet、GoogleNet、ResNet、GAN、Faster R-CNN等)、 標準資料集(ImageNet、COCO、PASCAL VOC、CIFAR、Open Image、Youtube-8M)。
此外,坤前AI算力整合方案還透過部署英特爾 OpenVINO 工具套件來加強推理的效能。英特爾 OpenVINO 工具套件為使用者提供了出色的深度學習推理工具,在第三代英特爾 至強 可擴充套件處理器增強的 AVX-512 和 VNNI 指令的加成上,擁有出色的推理的表現。OpenVINO可以將目前主流的深度學習框架(如TensorFlow、PyTorch、Caffe等)的模型轉換成IR格式模型,並使用推理引擎將IR模型在CPU、GPU上進行部署執行。OpenVINO不僅提供已經訓練好的主流深度學習模型,而且提供模型轉換器對自定義模型進行轉換。
透過部署英特爾 OpenVINO 工具套件,坤前AI算力整合方案在邊緣到雲上都有著廣泛的應用。
擁有豐富的伺服器定製經驗的南京坤前正在透過AI創新技術賦能各行各業,從硬體到軟體不斷加持企業打造強大的AI基礎設施,目前為三百餘家行業客戶提供過差異化的全流程定製服務,產品已經廣泛應用於網際網路、人工智慧、軟體、教育、金融、交通、醫療等行業。