ZeroPoint, sebuah startup asal Swedia, baru-baru ini berhasil meraih pendanaan sebesar 5 juta (sekitar Rp 81,5 miliar) untuk mengembangkan teknik kompresi memori skala nano-detik. Teknik ini diharapkan bisa menjadi solusi bagi infrastruktur AI yang haus daya. Tapi bagaimana caranya? Mari kita telusuri lebih dalam.
Di dunia komputasi kinerja tinggi, kebutuhan akan efisiensi dan performa yang maksimal terus meningkat. AI, sebagai salah satu pengguna terbesar teknologi ini, menuntut para arsitek sistem untuk bekerja keras memaksimalkan setiap tetes performa dari setiap watt yang tersedia. ZeroPoint, startup yang dipimpin oleh Klas Moreau bersama rekan-rekannya, Per Stenstrm dan Angelos Arelakis, menawarkan solusi inovatif dengan teknik kompresi memori skala nano-detik.
Pada dasarnya, ide ZeroPoint adalah melakukan kompresi data secara lossless (tanpa kehilangan data) tepat sebelum data tersebut masuk ke RAM, lalu mendekompresinya setelah keluar dari RAM. Ini secara efektif memperlebar jalur memori hingga 50% atau lebih hanya dengan menambahkan satu komponen kecil ke dalam chip.
Kompresi data sebenarnya bukanlah teknologi baru dalam komputasi. Seperti yang dijelaskan oleh Klas Moreau, "Kita tidak akan menyimpan data di hard drive tanpa mengompresinya. Penelitian menunjukkan 70% data di memori sebenarnya tidak diperlukan. Jadi mengapa kita tidak mengompresinya di memori?" Tantangannya adalah waktu. Mengompresi file besar untuk penyimpanan bisa memakan waktu beberapa detik, menit, atau bahkan jam, tergantung kebutuhannya. Namun, data yang melewati memori berlangsung dalam pecahan kecil dari detik, secepat CPU dapat melakukannya. Penundaan mikrodetik saja dalam menghapus bit yang "tidak perlu" dalam data yang masuk ke sistem memori akan sangat merusak performa.
Dengan pengalaman lebih dari dua dekade di industri teknologi, Klas Moreau telah berkontribusi pada berbagai inovasi penting dalam komputasi kinerja tinggi. Sebelum memimpin ZeroPoint, Moreau bekerja di beberapa perusahaan teknologi terkemuka di Eropa, di mana ia fokus pada pengembangan perangkat keras dan perangkat lunak yang efisien dan revolusioner.
Memori dan kecepatan CPU tidak selalu berkembang dengan laju yang sama, meskipun keduanya (bersama dengan banyak komponen chip lainnya) saling terkait erat. Jika prosesor terlalu lambat, data akan menumpuk di memori. Jika memori terlalu lambat, prosesor akan membuang siklus hanya untuk menunggu tumpukan data berikutnya. Semua bekerja secara bersamaan, seperti yang mungkin Anda duga.
Meskipun kompresi memori super cepat telah didemonstrasikan, ini membawa masalah kedua: data harus didekompresi secepat saat dikompresi, mengembalikannya ke keadaan aslinya, atau sistem tidak akan tahu bagaimana menanganinya. Jadi, kecuali Anda mengonversi seluruh arsitektur Anda ke mode memori terkompresi ini, itu akan sia-sia.
ZeroPoint mengklaim telah memecahkan kedua masalah ini dengan kompresi memori tingkat rendah yang sangat cepat yang tidak memerlukan perubahan signifikan pada sistem komputasi lainnya. Anda hanya menambahkan teknologi mereka ke chip Anda, dan seolah-olah Anda telah menggandakan memori Anda.
Meskipun detail teknis mungkin hanya bisa dipahami oleh orang-orang dalam bidang ini, dasarnya cukup mudah dipahami oleh orang awam, seperti yang dijelaskan Moreau kepada saya. "Yang kami lakukan adalah mengambil sejumlah kecil data - sebuah garis cache, kadang-kadang 512 bit - dan mengidentifikasi pola di dalamnya," katanya. "Sifat data itu, adalah bahwa itu dipenuhi dengan informasi yang tidak begitu efisien, informasi yang tersebar. Tergantung pada datanya: Semakin acak, semakin tidak dapat dikompres. Namun, ketika kami melihat sebagian besar beban data, kami melihat bahwa kami berada dalam kisaran 2-4 kali lebih banyak throughput data daripada sebelumnya."
Bukan rahasia lagi bahwa memori dapat dikompresi. Moreau mengatakan bahwa semua orang di komputasi skala besar mengetahui kemungkinan ini (dia menunjukkan kepada saya sebuah makalah dari tahun 2012 yang mendemonstrasikannya), tetapi lebih atau kurang menuliskannya sebagai sesuatu yang akademis, tidak mungkin diterapkan dalam skala besar. Namun ZeroPoint, katanya, telah memecahkan masalah kompaksi --- mengatur ulang data yang dikompresi agar lebih efisien lagi --- dan transparansi, sehingga teknologi ini tidak hanya bekerja tetapi juga bekerja dengan mulus dalam sistem yang ada. Dan semuanya terjadi dalam beberapa nanodetik.
"Kebanyakan teknologi kompresi, baik perangkat lunak maupun perangkat keras, berada pada kisaran ribuan nanodetik. CXL [compute express link, standar interkoneksi kecepatan tinggi] dapat menurunkannya menjadi ratusan," kata Moreau. "Kami dapat menurunkannya menjadi 3 atau 4."
Debut ZeroPoint tentu saja sangat tepat waktu, dengan perusahaan-perusahaan di seluruh dunia mencari komputasi yang lebih cepat dan lebih murah untuk melatih generasi model AI berikutnya. Sebagian besar hyperscalers (jika kita harus menyebutnya demikian) sangat tertarik pada teknologi apa pun yang dapat memberi mereka lebih banyak daya per watt atau memungkinkan mereka mengurangi tagihan listrik sedikit.
Kelemahan utama dari semua ini adalah bahwa, seperti yang disebutkan, teknologi ini perlu dimasukkan ke dalam chip dan diintegrasikan dari bawah ke atas --- Anda tidak bisa hanya mencolokkan dongle ZeroPoint ke rak. Untuk itu, perusahaan ini bekerja dengan pembuat chip dan integrator sistem untuk melisensikan teknik dan desain perangkat keras mereka ke chip standar untuk komputasi kinerja tinggi.
Tentu saja, itu adalah perusahaan seperti Nvidia dan Intel, tetapi juga semakin banyak perusahaan seperti Meta, Google, dan Apple, yang telah merancang perangkat keras khusus untuk menjalankan AI dan tugas berbiaya tinggi lainnya secara internal. ZeroPoint memposisikan teknologi mereka sebagai penghematan biaya, bukan premium: secara teoritis, dengan menggandakan memori secara efektif, teknologi ini akan membayar sendiri dalam waktu singkat.
Putaran pendanaan A sebesar 5 juta (sekitar Rp 81,5 miliar) yang baru saja ditutup dipimpin oleh Matterwave Ventures, dengan Industrifonden bertindak sebagai pemimpin lokal di Nordik, serta investor yang sudah ada Climentum Capital dan Chalmers Ventures juga berpartisipasi.
Moreau mengatakan bahwa dana tersebut akan memungkinkan mereka untuk memperluas ke pasar AS, serta menggandakan pasar Swedia yang sudah mereka kejar.
Baca konten-konten menarik Kompasiana langsung dari smartphone kamu. Follow channel WhatsApp Kompasiana sekarang di sini: https://whatsapp.com/channel/0029VaYjYaL4Spk7WflFYJ2H
