ZeroPoint, sebuah startup asal Swedia, baru-baru ini berhasil meraih pendanaan sebesar 5 juta (sekitar Rp 81,5 miliar) untuk mengembangkan teknik kompresi memori skala nano-detik. Teknik ini diharapkan bisa menjadi solusi bagi infrastruktur AI yang haus daya. Tapi bagaimana caranya? Mari kita telusuri lebih dalam.
Di dunia komputasi kinerja tinggi, kebutuhan akan efisiensi dan performa yang maksimal terus meningkat. AI, sebagai salah satu pengguna terbesar teknologi ini, menuntut para arsitek sistem untuk bekerja keras memaksimalkan setiap tetes performa dari setiap watt yang tersedia. ZeroPoint, startup yang dipimpin oleh Klas Moreau bersama rekan-rekannya, Per Stenstrm dan Angelos Arelakis, menawarkan solusi inovatif dengan teknik kompresi memori skala nano-detik.
Pada dasarnya, ide ZeroPoint adalah melakukan kompresi data secara lossless (tanpa kehilangan data) tepat sebelum data tersebut masuk ke RAM, lalu mendekompresinya setelah keluar dari RAM. Ini secara efektif memperlebar jalur memori hingga 50% atau lebih hanya dengan menambahkan satu komponen kecil ke dalam chip.
Kompresi data sebenarnya bukanlah teknologi baru dalam komputasi. Seperti yang dijelaskan oleh Klas Moreau, "Kita tidak akan menyimpan data di hard drive tanpa mengompresinya. Penelitian menunjukkan 70% data di memori sebenarnya tidak diperlukan. Jadi mengapa kita tidak mengompresinya di memori?" Tantangannya adalah waktu. Mengompresi file besar untuk penyimpanan bisa memakan waktu beberapa detik, menit, atau bahkan jam, tergantung kebutuhannya. Namun, data yang melewati memori berlangsung dalam pecahan kecil dari detik, secepat CPU dapat melakukannya. Penundaan mikrodetik saja dalam menghapus bit yang "tidak perlu" dalam data yang masuk ke sistem memori akan sangat merusak performa.
Dengan pengalaman lebih dari dua dekade di industri teknologi, Klas Moreau telah berkontribusi pada berbagai inovasi penting dalam komputasi kinerja tinggi. Sebelum memimpin ZeroPoint, Moreau bekerja di beberapa perusahaan teknologi terkemuka di Eropa, di mana ia fokus pada pengembangan perangkat keras dan perangkat lunak yang efisien dan revolusioner.
Memori dan kecepatan CPU tidak selalu berkembang dengan laju yang sama, meskipun keduanya (bersama dengan banyak komponen chip lainnya) saling terkait erat. Jika prosesor terlalu lambat, data akan menumpuk di memori. Jika memori terlalu lambat, prosesor akan membuang siklus hanya untuk menunggu tumpukan data berikutnya. Semua bekerja secara bersamaan, seperti yang mungkin Anda duga.
Meskipun kompresi memori super cepat telah didemonstrasikan, ini membawa masalah kedua: data harus didekompresi secepat saat dikompresi, mengembalikannya ke keadaan aslinya, atau sistem tidak akan tahu bagaimana menanganinya. Jadi, kecuali Anda mengonversi seluruh arsitektur Anda ke mode memori terkompresi ini, itu akan sia-sia.
ZeroPoint mengklaim telah memecahkan kedua masalah ini dengan kompresi memori tingkat rendah yang sangat cepat yang tidak memerlukan perubahan signifikan pada sistem komputasi lainnya. Anda hanya menambahkan teknologi mereka ke chip Anda, dan seolah-olah Anda telah menggandakan memori Anda.
Meskipun detail teknis mungkin hanya bisa dipahami oleh orang-orang dalam bidang ini, dasarnya cukup mudah dipahami oleh orang awam, seperti yang dijelaskan Moreau kepada saya. "Yang kami lakukan adalah mengambil sejumlah kecil data - sebuah garis cache, kadang-kadang 512 bit - dan mengidentifikasi pola di dalamnya," katanya. "Sifat data itu, adalah bahwa itu dipenuhi dengan informasi yang tidak begitu efisien, informasi yang tersebar. Tergantung pada datanya: Semakin acak, semakin tidak dapat dikompres. Namun, ketika kami melihat sebagian besar beban data, kami melihat bahwa kami berada dalam kisaran 2-4 kali lebih banyak throughput data daripada sebelumnya."
Bukan rahasia lagi bahwa memori dapat dikompresi. Moreau mengatakan bahwa semua orang di komputasi skala besar mengetahui kemungkinan ini (dia menunjukkan kepada saya sebuah makalah dari tahun 2012 yang mendemonstrasikannya), tetapi lebih atau kurang menuliskannya sebagai sesuatu yang akademis, tidak mungkin diterapkan dalam skala besar. Namun ZeroPoint, katanya, telah memecahkan masalah kompaksi --- mengatur ulang data yang dikompresi agar lebih efisien lagi --- dan transparansi, sehingga teknologi ini tidak hanya bekerja tetapi juga bekerja dengan mulus dalam sistem yang ada. Dan semuanya terjadi dalam beberapa nanodetik.
"Kebanyakan teknologi kompresi, baik perangkat lunak maupun perangkat keras, berada pada kisaran ribuan nanodetik. CXL [compute express link, standar interkoneksi kecepatan tinggi] dapat menurunkannya menjadi ratusan," kata Moreau. "Kami dapat menurunkannya menjadi 3 atau 4."
