2024-06-04
GIGABYTE 發佈全新 AI TOP 解決方案
軟硬兼施實行 AI 模型訓練本地化運行
文: Angus Wong / 台北報導
文章索引: IT要聞 GIGABYTE Computex 2024

【COMPUTEX 2024】GIGABYTE 3 日於台北 Computex 2024 大會上發佈全新 AI TOP — 本地化 AI 訓練解決方案,不但推出了多款專為人工智慧運算而設的 AI TOP 系列硬體產品,更加提供了 AI TOP Utility 軟件及 AI TOP Tutor 技術支援諮詢服務。致力進一步推動生成式 AI 市場的增長,務求跟上全球 AI 技術蓬勃發展的步伐,並秉持「在自己的桌上訓練自己的 AI (Train Your Own AI on Your Desk)」的口號精神,有效維護用戶的私隱及安全性,毋須擔心個人或公司資料遭 AI 服務供應商洩漏或拿去訓練他們的 AI 模型之用。

 

GIGABYTE 執行長 Eddie Lin 在會上指出雖然 GIGABYTE 是一家傳統的硬體生產商,但為了能讓初學者能夠快速上手本地 AI 訓練項目,所以今次發佈的 AI TOP 並不單純是一個硬件系列,而是同時一個包含硬件及軟體在內的全方位本地 AI 模型訓練解決方案。

 

GIGABYTE 發佈 AI TOP 解決方案

GIGABYTE 執行長 Eddie Lin 在會上發言

 

 

AI TOP Utility 軟體

 

GIGABYTE 發佈 AI TOP 解決方案

會上設有 AI TOP Utility 軟體介面示範

 

 

GIGABYTE 提供了經重新設計的 AI TOP Utility 軟體,具有簡潔的 GUI 使用界面,無論是 AI 初學者還是進階使用者都毋須進行複雜的編程設定。而且支援高達 2360 億參數的大型語言模型,包括 gpt2-large、Lmama 2 及 Falcon 180B 等等。另外還設有詳盡的 Dashboard 介面,讓用家實時監察 AI 模型及電腦硬件的運作狀態。

 

GIGABYTE 發佈 AI TOP 解決方案

 

 

AI TOP Hardware 硬件

 

GIGABYTE 發佈 AI TOP 解決方案

 

同時,GIGABYTE 亦專門打造了一系列的 AI TOP Hardware 硬件,包括顯示卡、主機板、電源供應器及 SSD 固態硬碟。採用一般桌面電腦常見的硬件形態,相較雲端訓練或機架式伺服器解決方案具有更高的靈活性及可升級性,只要有一般桌面電腦的組裝經驗就能輕鬆完成組裝,而且毋須付出額外的電力建設成本。

 

 

Radeon PRO W7900 AI TOP 48G / W7800 AI TOP 32G 工作站顯示卡

 

GIGABYTE 發佈 AI TOP 解決方案

Radeon PRO W7900 AI TOP 48G 工作站顯示卡

 

 

會上其中一大亮點就是發佈了 Radeon PRO W7900 AI TOP 48G 及 Radeon PRO W7800 AI TOP 32G 工作站顯示卡,它們的出現使 GIGABYTE 成為市場上第一個也是現時唯一一個與 AMD Radeon PRO 系列合作的專業顯示卡合作夥伴,Eddie Lin 在發佈會上亦向觀眾表示:「技嘉對品質和可靠性的持續追求加強了我們與領先矽晶體巨頭的合作,致力透過 AI 技術讓世界變得更美好。」。

 

GIGABYTE 發佈 AI TOP 解決方案

 

Radeon PRO W7900 AI TOP 48G 及 Radeon PRO W7800 AI TOP 32G 採用了較節省 PCIe 空間的雙槽設計,配合大型渦輪風扇作為散熱方案,並且將供電接口置於卡身尾部,讓機箱內部能夠盡可能地保持簡潔,降低日常維護的難度。

 

 

GeForce RTX 4070 Ti Super AI TOP 16G 顯示卡

 

GIGABYTE 發佈 AI TOP 解決方案

GeForce RTX 4070 Ti Super AI TOP 16G 顯示卡

 

而除了針對大型 AI 運算工作的 Radeon PRO 系列工作站顯示卡外,GIGABYTE 還推出了GeForce RTX 4070 Ti Super AI TOP 16G 顯示卡,同樣採用了雙槽厚度、渦輪風扇及卡尾電源接口的設計,配合全銀色的卡身,整體外觀走大方平實風格。最重要的是組合 4 張就能夠提供多達 64GB VRAM,算是一個價格較為親民的高 VRAM 組建方案。

 

GIGABYTE 發佈 AI TOP 解決方案

 

 

TRX50 AI TOP / W790 AI TOP 主機板

 

GIGABYTE 發佈 AI TOP 解決方案

TRX50 AI TOP 主機板

 

主機板方面,TRX50 AI TOP 及 W790 AI TOP 是 GIGABYTE 專為高效能 AI 訓練及數據處理而設計的旗艦級主機板產品,前者支援最高 96 核心、192 線程的 AMD Ryzen Threadripper Pro 系列處理器,而後者則支援最高 56 核心、112 線程的 Intel Xeon W-3400 系列處理器。

 

GIGABYTE 發佈 AI TOP 解決方案

GIGABYTE 發佈 AI TOP 解決方案

 

兩塊主機板同樣備有 8 組 R-DIMM 記憶體插槽,支援高達 2TB DDR5 總系統記憶體容量,並且具備多達 4 組 PCIe 5.0 顯示卡插槽,滿足多顯示卡的擴充需求。加上採用了高品質的供電元件和固態電容,配合優良的散熱設計,能夠確保在長時間的 AI 運算工作中仍能維持高度穩定可靠,將會是專業人士和科技愛好者進行本地 AI 訓練和高效能計算的理想選擇。

 

 

AI TOP 100E 1TB/2TB NVMe SSD 固態硬碟

 

GIGABYTE 發佈 AI TOP 解決方案

 

同時,GIGABYTE 亦發佈了 AI TOP 100E NVMe SSD 固態硬碟,備有 1TB 及 2TB 版本可供選擇,支援 7200 / 6500 MB/s 循序讀寫速度,並且擁有誇張的 219,000TBW 寫入壽命,比一般市售 SSD 高出 150 倍。最大賣點是支援 Phison 於剛過去的 GTC 24 中發佈的 aiDAPTIV+ 技術,透過包含中介軟體(Middleware)與獨家專利設計在內的方案能夠暫時將 SSD 容量調撥成記憶體使用,解決 AI 運算期間記憶體容量不足的問題,突破原有的系統運算瓶頸。

 

 

UD1600PM PG5 AI TOP 電源供應器

 

GIGABYTE 發佈 AI TOP 解決方案

 

至於 UD1600PM PG5 AI TOP 則是一款支援 1600W 功率輸出的 ATX 電源供應器,通過了嚴格的 80 PLUS 鉑金能源效益認證,能夠推動 4 張頂級顯示卡同時運作,滿足 AI 運算所需的多顯示卡使用場景。

 

 

 

AI TOP Tutor 服務

 

GIGABYTE 發佈 AI TOP 解決方案

 

GIGABYTE 還特別提供了 AI TOP Tutor 技術支援顧問服務,採用類似於 ChatGPT 的形式為用家提供實時的雲端疑難排解服務,用家能夠以自然語言發問各種與 AI 模型有關的問題。

 

GIGABYTE 發佈 AI TOP 解決方案

 

 

 

如欲了解更多關於 GIGABYTE AI TOP 解決方案的資訊,可瀏覽:https://bit.ly/GIGABYTE_COMPUTEX2024

 

 

發表評論