SiGTRON AI-FACTORY建置計畫持續推展

為了響應生成式人工智慧所帶來的龐大推理需求,算力主權和資源使用效率已成為企業保持競爭力的關鍵要素。位於南部科學園區周邊的全新世代「SiGTRON AI-FACTORY」建置計畫目前持續推展,此項目的目標是建立一個高效能且具備擴展性的 Neocloud(新世代雲端)智慧算力生態系統,協助各產業在人工智慧時代迅速部署推理服務,同時提升運算資源的使用效率。

AI-Stack賦能新世代人工智慧工廠 全面加速主權人工智慧與推理應用

此次人工智慧工廠的架構採用了128台SMCI HGX B200伺服器節點以及24台SMCI RTX Pro6000伺服器節點,整體運算能力高達40.96 ExaFLOPS。AI-Stack GPU資源管理軟體是整體運算的核心,負責GPU的分割、聚合、跨節點分配和彈性調度,以實現多租戶的高效率利用與即時推理優化。同時,透過低PUE(<1.20)的節能架構,打造一個高效且永續的算力環境。AI-Stack解決方案的模組化設計也能夠與 SignalPro 雷達感測人工智慧演算法及雲端推理模型無縫串接,形成一個可快速部署的Compute-as-a-Service生態系統。透過其多層管理框架,人工智慧工廠可以在單一平台上完整支援跨節點運算、工作負載分流與即時監控,滿足政府機構、科研單位與企業對於資料主權、安全隔離與高度可靠性的需求,使Neocloud不僅僅是一個算力中心,更成為推動主權人工智慧在地化與產業應用落地化的核心引擎與技術孵化基地。