Pernahkah Anda bertanya-tanya mengapa ChatGPT begitu cerdas dan canggih sehingga digunakan oleh lebih dari 100 juta pengguna setiap minggunya? Jawabannya terletak pada Azure, platform komputasi awan milik Microsoft yang menjadi tulang punggung dari revolusi AI ini.
Azure: Fondasi Kecerdasan Buatan Modern
Azure menawarkan berbagai layanan cloud, seperti komputasi, penyimpanan, dan jaringan. Dengan Azure, pengguna dapat membangun, mengelola, dan menerapkan aplikasi melalui pusat data global milik Microsoft. Infrastruktur inilah yang memungkinkan ChatGPT melayani jutaan pengguna secara efisien dan andal.
Namun, Azure bukan sekadar platform cloud biasa. Ini adalah hasil dari riset jangka panjang Microsoft dalam teknologi AI dan komputasi awan. Mark Russinovich, CTO Azure, menegaskan bahwa Microsoft telah mengembangkan AI selama 10 tahun terakhir. Dalam 10 tahun terakhir, terjadi percepatan besar dalam kemampuan AI, terutama didorong oleh peningkatan penggunaan GPU (Graphics Processing Unit) dan infrastruktur cloud skala besar.
Dalam beberapa tahun terakhir, Azure telah membangun perangkat keras dan perangkat lunak khusus untuk mendukung pelatihan model bahasa besar atau Large Language Model (LLM). Superkomputer AI di Azure mampu melatih model dengan ratusan miliar parameter. Model seperti GPT (Generative Pre-trained Transformer) belajar tentang bahasa melalui pembelajaran mandiri, mengolah miliaran halaman informasi berulang kali.
Teknologi Canggih di Balik Azure Supercomputer
GPU NVIDIA Tensor Core H100 Inti dari infrastruktur Azure adalah GPU NVIDIA Tensor Core H100 terbaru. GPU ini memberikan performa hingga 30 kali lebih cepat untuk inferensi dan 9 kali lebih cepat untuk pelatihan dibandingkan generasi sebelumnya, A100. Dibangun dengan 80 miliar transistor menggunakan teknologi TSMC 4N yang mutakhir, H100 mampu mempercepat AI, HPC (High-Performance Computing), bandwidth memori, interkoneksi, dan komunikasi dalam skala pusat data.
NVIDIA NVLink Switch System memungkinkan 256 GPU H100 dapat dihubungkan untuk mempercepat beban kerja. Secara sederhananya, NVLink Switch System adalah jaringan super cepat yang menghubungkan banyak kartu grafis (GPU) dalam sebuah superkomputer. Bayangkan jaringan ini seperti jalan raya dengan banyak lajur yang memungkinkan mobil (GPU) melaju kencang dan saling bertukar informasi dengan lancar. Transformer Engine juga digunakan untuk mendukung model bahasa dengan triliunan parameter.
Arsitektur NVIDIA Hopper H100 menggunakan arsitektur NVIDIA Hopper untuk menghadirkan percakapan AI terdepan di industri, mempercepat model bahasa besar hingga 30 kali lebih cepat dibandingkan generasi sebelumnya.
Tensor Core Generasi Keempat H100 dilengkapi dengan Tensor Core generasi keempat dan Transformer Engine dengan presisi FP8 yang memberikan pelatihan hingga 4 kali lebih cepat dibandingkan generasi sebelumnya untuk model GPT-3 (175 triliun parameter).
Konektivitas Canggih Kombinasi NVLink generasi keempat, jaringan InfiniBand NDR Quantum-2, PCIe Gen 5, dan perangkat lunak NVIDIA Magnum IO menghadirkan skalabilitas yang efisien dari sistem perusahaan kecil hingga klaster GPU besar yang terintegrasi.
Sistem NVLink Switch Sistem ini memungkinkan penskalaan input/output (IO) multi-GPU di berbagai server dengan kecepatan 900 gigabyte per detik (GB/s) dua arah per GPU, lebih dari 7 kali lipat bandwidth PCIe Gen5. Sistem ini mendukung klaster hingga 256 H100 dan memberikan bandwidth 9 kali lebih tinggi daripada InfiniBand HDR pada arsitektur NVIDIA Ampere.
H100 juga menghadirkan teknologi Multi-instance GPU (MIG) yang memungkinkan pembagian satu GPU H100 menjadi beberapa instance yang lebih kecil. Hal ini memungkinkan pemanfaatan GPU yang lebih fleksibel dan efisien untuk berbagai beban kerja AI.
Skalabilitas dan Fleksibilitas Azure
Azure memungkinkan penyebaran dan pengelolaan GPU H100 dalam skala besar. Pengguna dapat dengan mudah menambah atau mengurangi kapasitas komputasi sesuai dengan kebutuhan mereka. Fleksibilitas ini sangat penting dalam dunia AI yang berkembang pesat, di mana kebutuhan komputasi dapat berubah secara cepat dalam waktu singkat.
Dampak dan Manfaat Azure Supercomputer
- Percepatan penelitian dan pengembangan AI dengan Azure Supercomputer, perusahaan dan peneliti dapat melakukan pelatihan dan implementasi model AI dengan lebih cepat dan efisien. Ini tidak hanya meningkatkan performa dan efisiensi, tetapi juga membuka peluang baru dalam berbagai bidang.
- Inovasi di bidang kesehatan, Azure Supercomputer memungkinkan analisis data genomik dalam skala besar dan meningkatkan diagnosis berbasis AI.
- Kemajuan dalam penelitian ilmiah Azure Supercomputer memungkinkan peneliti untuk menganalisis data dalam skala besar, menemukan pola baru, dan mengembangkan solusi inovatif yang dapat mengubah cara kita memahami alam semesta.
- Perusahaan dapat memanfaatkan kekuatan AI untuk mengoptimalkan operasi, meningkatkan layanan pelanggan, dan menciptakan produk inovatif baru.
Kesimpulan
Azure dan teknologi yang mendasarinya, seperti GPU NVIDIA H100, telah membuka era baru dalam komputasi AI. Kemampuan untuk melatih dan menjalankan model AI kompleks seperti ChatGPT dalam skala besar tidak hanya mengubah cara kita berinteraksi dengan teknologi tetapi juga membuka peluang baru dalam berbagai bidang kehidupan.
Namun, dengan kekuatan besar ini juga datang tanggung jawab besar. Penting bagi para pengembang, peneliti, dan pengguna untuk mempertimbangkan implikasi etis dari teknologi AI yang kuat ini dan memastikan bahwa pengembangannya sejalan dengan nilai-nilai kemanusiaan dan kebaikan bersama. Seiring kita melangkah ke masa depan yang semakin didominasi oleh AI, peran platform seperti Azure akan semakin penting dalam membentuk lanskap teknologi dan masyarakat kita.
Sumber:
https://news.microsoft.com/source/features/ai/how-microsofts-bet-on-azure-unlocked-an-ai-revolution/
https://www.nvidia.com/en-us/data-center/h100/
https://www.sabrepc.com/blog/Computer-Hardware/nvidia-h100-tensor-core-gpu
https://developer.nvidia.com/blog/nvswitch-leveraging-nvlink-to-maximum-effect/
https://resources.nvidia.com/en-us-tensor-core/nvidia-tensor-core-gpu-datasheet
