AWS 和 NVIDIA 計畫額外部署200萬 GPU計劃在 2027 年和 2028 年期間在 AWS 基礎架構上部署。部署計劃包括 NVIDIA Blackwell Ultra、Rubin 和 Rubin Ultra GPU適用於人工智慧訓練、推理、科學計算、企業自動化和實體人工智慧工作負載。
該公告描述的是一項未來的基礎建設承諾,而不是立即可用的200萬美元。 GPU此前,AWS 曾計劃新增超過一百萬個儲存空間。 NVIDIA GPU從 2026 年開始。
AWS 和 NVIDIA 的擴展基礎設施計劃
AWS 和 NVIDIA 兩家公司於2026年8月26日宣布擴大合作關係。兩家公司表示,新增的合作關係將帶來更多好處。 GPU這些系統將部署在 AWS 的全球基礎設施中,包括被稱為 AI 工廠的系統。
此合作關係涵蓋超過 GPU 容量。 AWS 和 NVIDIA 還計劃:
- 引入基於以下方面的基礎設施 NVIDIA Vera CPU。
- 延長 NVIDIA 採用客製化高頻寬記憶體的NVLink Fusion。
- 整合 NVIDIA GPUs 與 AWS Nitro 和 Elastic Fabric Adapter 網路。
- 繼續提供 NVIDIA Nemotron 模型透過 Amazon Bedrock 和 SageMaker 實現。
- 透過 Amazon EMR 和 OpenSearch 加速資料處理和向量索引。
- 將 NVIDIA 的實體 AI 平台應用於 Amazon Robotics 工作負載。
這些公司還計劃為美國政府建設人工智慧基礎設施。其中包括100,000萬個… GPU在安全 AWS 系統上,專為聯邦和國家安全工作負載而設計,影響等級為 6 以上。
AWS 執行長 Matt Garman 表示,客戶「希望能夠自由選擇最適合其 AI 工作負載的工具」。 AWS 和 NVIDIA 公告 此次擴張是為了因應各組織將人工智慧專案從試點階段推進到生產階段的需求。
有哪些證據顯示人工智慧基礎設施需求正在成長?
亞馬遜和 NVIDIA 在宣布追加投資之前,該公司報告稱其雲端和資料中心業務實現了顯著成長。 GPU 部署。
亞馬遜報告稱,AWS在2026年第二季創造了42.2億美元的銷售額,比2025年同期成長了37%。亞馬遜也表示,其AWS人工智慧業務的年收入運行率已超過25億美元,並且正以三位數百分比的年增長率成長。
亞馬遜在過去12個月中,用於購買房產和設備的支出增加了66.1億美元。該公司將這一成長主要歸因於對人工智慧的投資。 亞馬遜第二季業績 為基礎設施建設提供財務背景。
NVIDIA 該公司公佈2027財年第二季資料中心營收為89億美元,較上年同期成長117%。
NVIDIA 該公司還報告稱,其 Vera Rubin 平台已全面投入生產,合作夥伴部署方案涉及 CoreWeave。 Google Cloud, Microsoft Azure, Oracle Cloud Infrastructure還有Nebius。英偉達創辦人兼執行長黃仁勳表示:「需求正在加速成長」。 英偉達向美國證券交易委員會提交的財務報告 公司公佈的數據中心收入成長數據可以佐證這一說法。
事件 GPU AWS 目前已提供哪些基礎架構?
AWS 已經提供了 GPU 基於多個實例 NVIDIA 架構。新宣布的200萬-GPU 未來兩年,部署工作將擴大該產品組合。
AWS 使用以下方式啟動了 EC2 G7 執行個體 NVIDIA RTX PRO 4500 Blackwell 伺服器版 GPU預計 2026 年 6 月推出。 G7 配置最多支援八個 GPUs,總計 256 GB GPU 內存,192 個虛擬 CPU,768 GiB 系統內存,7.6 TB 本地 NVMe 存儲,以及 700 Gbps 網路頻寬。
AWS 表示,G7 實例的 AI 推理效能比上一代 G6 實例提升高達 4.6 倍,圖形效能提升高達 2.1 倍。這些數據是 AWS 官方公佈的,並非獨立測試結果。 HostScore 基準。
G7 實例最初在美國俄亥俄州東部和俄勒岡州西部區域推出,提供按需實例、節省計劃、競價型實例和部分專用實例配置。 AWS EC2 G7 公告提供了目前的執行個體規格和區域可用性資訊。
HostScore的看法
兩百萬GPU 承諾確認了 AWS 和 NVIDIA 預計人工智慧運算需求將保持在高位。然而,公告並未說明新增容量的成本,也未說明哪些地區將獲得哪些容量。 GPU 模型,或當各個實例類型可用時。
對人工智慧託管成本的潛在影響
更大的容量可以緩解硬體供應緊張的問題,但這並不能保證降低主機託管價格。 GPU 託管費用包括加速器、CPU 分配、記憶體、儲存、網路、資料傳輸、管理和預留容量。
Blackwell Ultra、Rubin 和 Rubin Ultra 系統也針對日益苛刻的 AI 工作負載而設計。這些系統每分鐘可完成更多的工作。 GPU但這並不意味著小型專案的准入門檻會自動降低。
買家應等待實例規格、區域可用性和定價資訊公佈後再計算 AWS 擴充帶來的財務影響。
較小角色 GPU 託管服務商
AWS 適合需要大規模服務的組織。 GPU 叢集以及與 Bedrock、SageMaker、OpenSearch、S3 和 Elastic Kubernetes Service 等服務的緊密整合。並非所有 AI 專案都需要如此大的規模或平台深度。
專業基礎設施提供者可以為希望獲得已知基礎設施的企業提供服務。 GPU 配置方式、直接伺服器存取、專用硬體或更簡單的計費方式。 Atlantic.Net例如,目前提供雲端服務和專用伺服器。 GPU 使用配置 NVIDIA L40S 和 H100 NVL 硬體。其雲端配置支援按小時和長期計費,而專用伺服器提供固定硬體和 root 存取權限。 Atlantic.Net 列出其目前 GPU 此處配置.
Atlantic.Net 它並非 AWS 最大規模分散式集群的直接替代品,而是代表了另一個層面。 GPU 面向規模較小的訓練、推理、研究和專用基礎設施工作負載的託管市場。
對 GPU 主機市場
企業應該要匹配 GPU 根據工作負載調整基礎設施,而不是根據提供者的總容量。
模型訓練取決於 GPU 內存,多GPU 網路、儲存吞吐量和叢集可擴充性。微調可以在一個高記憶體叢集上高效運行。 GPU具體情況取決於模型和資料集。推理任務的買家應該衡量回應延遲、並發性、模型載入時間、利用率以及每次完成請求的成本。長時間運行的工作負載應該將預留雲定價與…進行比較。 專用 GPU 服務器而實驗性項目則可以享受按小時計費和快速配置的優勢。
CPU效能、系統記憶體、NVMe儲存、網路頻寬和軟體配置也會影響 GPU 利用率。如果周圍的基礎設施無法足夠快地提供數據,強大的加速器也無法達到預期的效能。