AI雲端平台算力彈性擴展，任何企業在30秒內一鍵部署AI應用

這幾年許多公司開始選擇不自己架設伺服器，而轉向使用像AWS或Azure或GCP這樣的雲端運算平台的服務。這兩年AI大行其道，但一般公司要如何要開始向AI轉型呢？

Ｑ：企業可以在AI平台上做哪些事情？

Ａ：訓練與微調大型語言模型、即時生成內容、即時翻譯、模型推理、資料分析與洞察、開發客製化AI應用、特定需求的AI應用、提升工作效率。未來甚至可以訓練個人化AI助手、理解動物語言或破解古文。

Ｑ：使用者要如何解決算力的問題？

Ａ：使用AI雲端平台服務，使用者可以直接租用所需的算力，無需自己購買和維護硬體。也可以根據需求選擇不同類型和數量的GPU,如H100、H200等。當算力不足時，可以根據實際需求隨時增加或減少所使用的算力資源。

Ｑ：使用AI平台而不要自己架設的好處是什麼？

Ａ：降低進入門檻、節省成本、提高效率、確保可靠性、靈活擴展、專注於核心業務、符合ESG標準。

Ｑ：什麼是「雲地整合」？

Ａ：「雲地整合」指的是將本地的運算資源與雲端服務相結合的一種模式。具體來說就是企業可以在自己的私有雲中部署一定數量的運算資源（如GPU）。當本地資源不足時，可以快速從公共雲端平台調用額外的算力。

Ｑ：GMI Cloud支援哪些AI模型？

Ａ：GMI Cloud支援多種流行的AI模型，像是Llama 3、Mistral、Stable Diffusion，可以做圖像生成模型、語音轉文本模型、文本轉語音模型、即時翻譯模型還不斷增加新的模型和功能，也可以根據客戶需求組合或開發特定的AI模型。

Ｑ：如何確保平台的可靠性和可擴充性？

Ａ：主要虛擬化技術，將整個平臺虛擬化，允許靈活分配和調整計算資源；分散式架構，計畫在全球建立多個資料中心以及標準操作流程、硬體升級及模組化設計，將各種AI模型和服務模組化，便於快速部署和更新。

Ｑ：除了H100外，也有H200的GPU嗎？

Ａ：是的，GMI Cloud不僅有H100 GPU，還計畫提供H200 GPU。未來也會升級到GB200，這可更新一代的GPU技術。

Ｑ：要如何確保不同行業和領域客戶的需求都能得到滿足？

Ａ：基本上透過多樣化AI模型和服務、靈活資源選擇、客製化服務、持續更新技術、簡化部署流程才能成為通用AI基礎設施。

Ｑ：台灣中小企業居多，想部署AI要具備什麼能力？

Ａ：基本上不需要深厚的技術背景，平台已預先配置好環境，不需要了解複雜的網路或虛擬化技術。但企業主要很清楚知道自己需要的應用需求和整理好的相關數據，才能訓練自己需要的資料。

Ｑ：使用AI平台，符合ESG的規範嗎？

Ａ：GMI Cloud資料中心使用綠色能源，例如核能、水力發電和風力發電，符合ESG中的環境保護要求。此外，AI平台透過資源共享和彈性擴展，提高能源使用效率，減少碳排放。總體而言，AI平台在ESG方面具有潛在優勢。

更完整的節目內容，請收聽T客播。