5月29日，英偉達創始人兼CEO黃仁勛在NVIDIA Computex 2023展前發布會上，正式發布全新GH200 Grace Hopper超級芯片，以及擁有256個GH200超級芯片的DGXGH200超級計算機。

超級芯片GH200已全面投產，谷歌、微軟、Meta將率先獲得。GH200超級芯片使用了NVLink-c2c互聯技術，將一顆基于ARM節能的72核Grace CPU和一顆高性能的英偉達H100 GPU、96GB的HBM3和512GB的LPDDR5X，通過Chiplet工藝集成到同一封裝，以提供CPU+GPU一致內存模型，從而不再需要傳統的CPU至GPU PCIe連接。GH200超級芯片提供了高達900GB/s的總帶寬，為某些內存受限的工作負載提供了巨大優勢。相較PCIe5，該芯片將GPU和CPU之間的帶寬提高了7倍，將互連功耗減少了5倍以上。黃仁勛表示，GH200 Grace Hopper超級芯片已全面投產，將可為運行復雜的AI和高性能計算工作負載提供動力。谷歌云、Meta和微軟將率先獲得GH200。

全新NVIDIA Helios超算年底推出，未來GPU數據中心有望替代現有CPU數據中心。DGXGH200是將256塊GH200超級芯片組成的超算，擁有高達1EFLOP的算力，以及144TB的共享內存（比上代DGXA100多了近500倍）。此外，英偉達表示正在建造自己的大型AI超級計算機NVIDIA Helios。該超算將配備4個DGXGH200，每個都將通過NVIDIA Quantum-2 InfiniBand 400 Gb / s網絡互連，以提高訓練大型AI模型的數據吞吐量。未來，GPU有望實現對目前CPU的替代。根據英偉達的配置，以1000萬美金成本可建置1個有960顆CPU的數據中心，但它需要11GWh的功率，處理1X大模型的數據量。但同樣成本，可建置1個有48個GPU的數據中心，只需3.2GWh的功耗，并可處理44X大模型的數據量。

基于GH200 Grace Hopper超級芯片，英偉達還與軟銀宣布合作開發新平臺，以滿足生成式AI和5G/6G應用。同時，軟銀計劃在日本推出新的分布式AI數據中心。據悉，該平臺因使用GH200 超級芯片，有望提高應用程序工作負載的性能、可擴展性和資源利用率。