NVIDIA 推出了最新的 Blackwell GPU，這是一款強大的 AI 加速器，具有無與倫比的功率和效率。與前身 H30 GPU 相比，這款雙 GPU 強大引擎可提供高達 100 倍的推理吞吐量和四倍的訓練效能。此外，第二代 Transformer Engine 技術和 FP4 精度支援的結合可確保閃電般快速的處理，同時優化能耗。 GB200「超級晶片」的推出配備了兩台 Blackwell GPU 和一個 Grace Arm CPU，進一步提升了 AI 處理能力，讓 NVL72 機架能夠輕鬆應對複雜的生成型 AI 挑戰。
雲AI與產業巨頭合作
NVIDIA 鞏固了與科技巨頭 Google 和 Amazon Web Services (AWS) 的合作，標誌著基於雲端的 AI 解決方案取得了重大進展。谷歌採用 Grace Blackwell AI 平台和 NVIDIA DGX Cloud 服務凸顯了業界對 NVIDIA 尖端技術的認可。此外，NVIDIA、Google 和 AWS 之間的合作旨在優化開放模型，支援 NVIDIA GPU 上的 JAX，並透過 NVIDIA 的推理微服務 (NIM) 概念促進 AI 模型的無縫部署。這項策略聯盟承諾為開發者提供靈活、開放的人工智慧創新平台。
NVIDIA 推出了推理微服務 (NIM) 概念，以其安全、穩定且可擴展的框架徹底改變了 AI 部署。 NIM 是 NVIDIA AI Enterprise 的關鍵元件，透過提供預先包裝的 AI 模型、整合程式碼和預先配置的 Kubernetes Helm 圖表來簡化部署流程。透過 NIM，開發人員可以加快 AI 應用程式的上市時間，只需 10 分鐘即可實現部署。這種簡化的方法標誌著人工智慧部署民主化和加速跨產業創新的重大飛躍。
GR00T 專案和 Jetson Thor 引領機器人技術進步
NVIDIA 推出了 Project GR00T（通才機器人 00 技術），這是一項旨在開發人形機器人基礎模型的開創性舉措。透過賦予機器人自然語言理解能力和從人類動作中學習的能力，GR00T 計畫預示著人機互動的新時代。 Jetson Thor 是這項努力的補充，它是一款專為人形機器人量身定制的尖端計算機，利用 NVIDIA 的 Thor 系統單晶片 (SoC) 提供無與倫比的性能和多功能性。 Project GR00T 和 Jetson Thor 共同代表了機器人技術的重大飛躍，預計將徹底改變依賴自動化和人機協作的行業。
NVIDIA 對推進尖端技術的承諾在其 6G 研究雲端平台中得到了體現，該平台致力於開創無線連接的下一階段。透過促進 6G 無線技術的研發，NVIDIA 旨在為超級互聯世界奠定基礎，引領前所未有的互聯和創新水準。此外，Omniverse Cloud API 的推出擴大了 NVIDIA Omniverse 平台的覆蓋範圍，加速了數位孿生在各行業的採用。這些舉措凸顯了 NVIDIA 在塑造連結和數位創新未來方面的關鍵作用。
推動汽車創新向前發展
NVIDIA 在汽車行業的影響力不斷擴大，比亞迪、Hyper（廣汽 Aion 旗下）和小鵬汽車等多家領先汽車製造商都在其電動汽車車隊中採用了 Drive Thor 系統單晶片 (SoC)。 Drive Thor 擁有 1,000 teraflops 的卓越性能，加上其成本效益，使汽車製造商能夠無縫整合自動駕駛、車內人工智慧和資訊娛樂系統。此次整合標誌著汽車創新的一個重要里程碑，為更安全、更智慧、更有效率的電動車鋪平了道路。
NVIDIA 的 GTC 2024 活動展示了涵蓋人工智慧、雲端運算、機器人、連接和汽車技術的各種創新。憑藉 Blackwell AI 平台、NIM 概念、GR00T 專案、6G 研究雲端和 Drive Thor 等突破性進展，NVIDIA 重申了其在塑造技術未來和推動跨產業創新方面的驅動力地位。
資料來源：https://www.cryptopolitan.com/nvidia-innovations-at-gtc-2024/