Apa itu NVIDIA Blackwell

NVIDIA Blackwell

NVIDIA selalu menjadi perusahaan yang terdepan dalam pembuatan chip GPU, mereka selalu membuat inovasi baru di teknologi GPU dan AI. Memperkenalkan Blackwell, the next-generation of GPU architecture, dengan klaim menjadi GPU yang paling besar yang pernah dibuat, jumlah transistor yang terpasang mencapai lebih dari 200 miliar. Blackwell di design untuk memberi komputasi teknologi AI di masa depan. 

Arsitektur

GPU Blackwell memiliki kecepatan komputasi yang cepat karena didalam nya terdapat 208 miliar transistor dan di manufaktur  dengan custom built TSMC 4NP Process, Semua produk Blackwell dilengkapi dua die terbatas reticle yang dihubungkan oleh interkoneksi chip-ke-chip 10 terabyte per detik (TB/s) dalam satu GPU terpadu.

Second-Generation Tranformers Engine

Penggunaan komputasi tranformers dapat dilakukan dengan efisien di Blackwell, bukan hanya itu Blackwell juga telah melakukan utilisasi custom Tensor Core Technology untuk mempercepat inference (artinya AI sedang berjalan) dan training dari LLM (Large Language Model) dan juga Mixture-of-Experts (MoE) models.

sumber: connectedtoindia.com

Keamanan

Blackwell menyediakan NVIDIA Confidential Computing yaitu sistem keamanan yang akan mengamankan data yang sensitif dan AI model dari akses yang tidak di otorisasi dengan basis hardware. Blackwell adalah salah satu sistem yang membuat sistem keamanan dengan  TEE/IO (Trusted Execution Environment Input/Output), dimana terdapat area isolasi komputasi dimana terdapat kode-kode dan data yang lepas dari seluruh sistem, sehingga kode-kode dan data tersebut aman dari serangan siber. 

Scaling

Blackwell memiliki koneksi NVLink dan NVLink Switch yang bisa menyatukan beberapa GPU menjadi satu kesatuan. Dengan penggunaan NVLink generasi lima, GPU dapat di scale up hingga 576 GPUs, dengannya komputasi hingga triliun paramaters dapat dilakukan dengan cepat.

NVLink switch memiliki bandwith yang sangat-sangat besar, hingga mencapai 130TB / detik dalam satu 72-GPU NVLink domain (NVL72) dan bisa mengirim bandwidth 4x lipat dengan NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)  FP8 support.