| 永續 | 加速運算卡 | 伺服器 | 減碳 | 機器學習 | GPU | 耗電 | 散熱

高功耗資料中心時代來臨

除了CPU與GPU,為了提升特定應用程式或服務的執行效能,伺服器搭配各種加速運算卡的機會也越來越多,隨著這些元件所承擔的運算工作日益吃重,接踵而來的耗電量、散熱需求增加狀況,勢必也將浮上檯面,成為企業在考量IT整體能源使用效率時,所無法忽視的因素

2022-03-25

| 微軟 | Nvidia | GPU | 機密運算 | Azure Confidential VM | Ampere Protected Memory

微軟與Nvidia合作將機密運算延伸到GPU

微軟將把名為Ampere Protected Memory(APM)的機密運算技術,部署到Nvidia A100 Tensor Core GPU

2022-03-24

| 微軟 | AMD | GPU | ROCm

微軟深度學習函式庫DeepSpeed開始支援ROCm平臺,在相容GPU上大幅加速大型模型訓練

微軟與AMD合作,在深度學習最佳化函式庫DeepSpeed加入ROCm技術支援,使得DeepSpeed能獲得相容ROCm的GPU,以及AMD Instinct GPU所帶來的運算加速

2022-03-23

| 微軟 | DirectStorage | Windows | GPU

DirectX新I/O功能DirectStorage正式登陸PC,可大幅強化遊戲載入速度

微軟原本針對家用遊戲機Xbox Series X,所開發的儲存I/O技術DirectStorage,現在被正式移植到個人電腦上,支援Windows 10以上版本

2022-03-16

| Nvidia | 網路攻擊 | 資料外洩 | GPU | LHR

駭客揚言出售解鎖Nvidia GPU運算力的技術

videocardz網站公布駭客組織Lapsus$在Telegram的通訊紀錄,顯示Lapsus$以公佈Nvidia產品硬體資料為要脅,要Nvidia更新30款韌體以移除GPU運算力的限制

2022-03-02

| AWS | Nvidia | GPU | 機器學習 | 張量核心

AWS發布搭載A10G GPU的EC2執行個體G5,機器學習效能是前一代3倍以上

AWS G5執行個體採用Nvidia A10G張量核心GPU,機器學習訓練和推理效能都是前一代的3倍以上

2021-11-15

| Nvidia | AI | GPU | 超級電腦

Nvidia發表邊緣運算用AI超級電腦Jetson AGX Orin

Jetson AGX Orin是可以放在手掌上的小型人工智慧超級電腦,搭載Arm Cortex-A78AE CPU以及Nvidia Ampere架構GPU,提供GPU伺服器等級的運算能力

2021-11-11

| 微軟 | GPU | AI | 機器學習 | PyTorch

微軟開源可在任何GPU訓練機器學習模型的套件PyTorch-DirectML

PyTorch-DirectML套件可將GPU機器學習函式庫DirectML作為PyTorch框架的後端,在DirectX12 GPU和WSL上執行模型訓練

2021-10-25

| 微軟 | WSL | CUDA | GPU | Linux

WSL現在廣泛支援GPU加速機器學習工作負載

Windows 11用戶可以在WSL中,依照機器學習工作負載的需求,配置Nvidia CUDA或是TensorFlow-DirectML,以使用GPU加速運算

2021-10-07

| 封面故事 | 英特爾 | GPU | 資料中心繪圖處理器 | Ponte Vecchio | 高效能運算 | 機器學習 | 英特爾架構日 | Xe Link

2022英特爾資料中心繪圖處理器:Ponte Vecchio

結合英特爾、台積電製程技術,打造適用高效能運算與機器學習的單一平臺,將模組化堆疊擴充架構發揮至極致

2021-09-08

| 封面故事 | 英特爾 | 伺服器 | Sapphire Rapids | CPU | GPU | IPU | Xeon Scalable | SOC | 模組化系統單晶片 | PCIe 5.0 | CXL 1.1

2022英特爾伺服器平臺:Sapphire Rapids

翻新製程與封裝技術,搭配著重效能的核心及多元加速器引擎,並且大膽採用PCIe 5.0與DDR5記憶體規格

2021-09-08

| 客座文章 | DBS | 大數據 | Big Data | 軟體定義儲存 | 微服務 | GPU | 新加坡星展銀行

【DBS客座文章】星展銀行如何打造大數據平台

隨著相關應用與學術的發展,我們不得不在2019年重新設計整個企業之資料平台,以克服幾個未來的挑戰。從GCP及AWS在大數據領域的發展汲取靈感,設計了這個可以更有效處理多租戶(multitenancy)、降低資源搶奪風險及營運成本的平台,並確保我們的關鍵應用程式得以正常運行。

2021-09-02