2024.06.28 10:00

AI雲端平台算力彈性擴展,任何企業在30秒內一鍵部署AI應用

ADVERTISEMENT

這幾年許多公司開始選擇不自己架設伺服器,而轉向使用像AWS或Azure或GCP這樣的雲端運算平台的服務。這兩年AI大行其道,但一般公司要如何要開始向AI轉型呢?

ADVERTISEMENT

 

Q:企業可以在AI平台上做哪些事情?

A:訓練與微調大型語言模型、即時生成內容、即時翻譯、模型推理、資料分析與洞察、開發客製化AI應用、特定需求的AI應用、提升工作效率。未來甚至可以訓練個人化AI助手、理解動物語言或破解古文。

ADVERTISEMENT

 

Q:使用者要如何解決算力的問題?

A:使用AI雲端平台服務,使用者可以直接租用所需的算力,無需自己購買和維護硬體。也可以根據需求選擇不同類型和數量的GPU,如H100、H200等。當算力不足時,可以根據實際需求隨時增加或減少所使用的算力資源。

ADVERTISEMENT

 

Q:使用AI平台而不要自己架設的好處是什麼?

A:降低進入門檻、節省成本、提高效率、確保可靠性、靈活擴展、專注於核心業務、符合ESG標準。

ADVERTISEMENT

 

Q:什麼是「雲地整合」?

A:「雲地整合」指的是將本地的運算資源與雲端服務相結合的一種模式。具體來說就是企業可以在自己的私有雲中部署一定數量的運算資源(如GPU)。當本地資源不足時,可以快速從公共雲端平台調用額外的算力。

 

Q:GMI Cloud支援哪些AI模型?

A:GMI Cloud支援多種流行的AI模型,像是Llama 3、Mistral、Stable Diffusion,可以做圖像生成模型、語音轉文本模型、文本轉語音模型、即時翻譯模型還不斷增加新的模型和功能,也可以根據客戶需求組合或開發特定的AI模型。

 

Q:如何確保平台的可靠性和可擴充性? 

A:主要虛擬化技術,將整個平臺虛擬化,允許靈活分配和調整計算資源;分散式架構,計畫在全球建立多個資料中心以及標準操作流程、硬體升級及模組化設計,將各種AI模型和服務模組化,便於快速部署和更新。

 

Q:除了H100外,也有H200的GPU嗎? 

A:是的,GMI Cloud不僅有H100 GPU,還計畫提供H200 GPU。未來也會升級到GB200,這可更新一代的GPU技術。

 

Q:要如何確保不同行業和領域客戶的需求都能得到滿足? 

A:基本上透過多樣化AI模型和服務、靈活資源選擇、客製化服務、持續更新技術、簡化部署流程才能成為通用AI基礎設施。

 

Q:台灣中小企業居多,想部署AI要具備什麼能力?

A:基本上不需要深厚的技術背景,平台已預先配置好環境,不需要了解複雜的網路或虛擬化技術。但企業主要很清楚知道自己需要的應用需求和整理好的相關數據,才能訓練自己需要的資料。

 

Q:使用AI平台,符合ESG的規範嗎?

A:GMI Cloud資料中心使用綠色能源,例如核能、水力發電和 風力發電,符合ESG中的環境保護要求。此外,AI平台透過資源共享和彈性擴展,提高能源使用效率,減少碳排放。總體而言,AI平台在ESG方面具有潛在優勢。

ADVERTISEMENT