Menghindari perang nuklir tampaknya seharusnya menjadi salah satu prioritas tertinggi umat manusia, tetapi perdebatan mengenai apakah "musim dingin nuklir" akan terjadi akibat pertukaran nuklir bukanlah pemisahan rambut yang tidak berarti.Â
Salah satu cara kita dapat mengurangi kemungkinan miliaran orang mati karena kelaparan massal adalah dengan mengurangi persenjataan nuklir, yang baik bagi Amerika Serikat maupun Rusia lebih kecil daripada saat puncak Perang Dingin tetapi kembali meningkat belakangan ini.
Apakah Kehadiran AI Merupakan Resiko yang Nyata?
Tentang apakah AI akan membunuh kita semua, sebenarnya sulit untuk melaporkan pertanyaan ini secara jujur. Para ilmuwan iklim secara umum sepakat bahwa perubahan iklim tidak akan membunuh kita semua, meskipun masih ada ketidakpastian yang substansial tentang skenario risiko ekstrem yang mungkin terjadi dan seberapa mungkin terjadi. Para peneliti perang nuklir memiliki perbedaan pendapat yang signifikan dan memanas tentang apakah akan terjadi "Nuclear Winter"Â
Namun, kedua perbedaan pendapat itu tampak cacat dibandingkan dengan tingkat perbedaan pendapat mengenai dampak AI. CBS baru-baru ini menanyai Geoffrey Hinton, yang dijuluki bapak pendiri AI, tentang klaim bahwa AI dapat memusnahkan umat manusia. "Itu tidak mustahil, itu saja yang bisa saya katakan," kata Hinton.Saya juga mendengar hal yang sama dari banyak ahli lainnya: Taruhannya begitu tinggi sehingga tampaknya benar-benar menjadi perhatian serius. Tentu saja, ahli lain bersikeras bahwa tidak ada alasan untuk khawatir sama sekali.
Pertanyaan sejuta dolar kemudian adalah bagaimana AI bisa memusnahkan kita, jika bahkan perang nuklir, pandemi massal, atau perubahan suhu global yang signifikan tidak akan melakukannya. Namun, meskipun umat manusia cukup tangguh, ada banyak spesies lain di Bumi yang dapat memberi tahu Anda - atau mungkin telah memberi tahu Anda sebelum mereka punah - bahwa peradaban cerdas yang tidak peduli pada Anda benar-benar dapat menghancurkan habitat Anda untuk membangun jalan raya mereka (atau setara AI, mungkin menghancurkan seluruh biosfer untuk digunakan dalam proyek-proyek peradaban AI).
Sepertinya sangat sulit untuk menavigasi trade-off yang berisiko tinggi seperti ini dengan cara yang berdasarkan prinsip. Para pembuat kebijakan tidak tahu kepada ahli mana harus berpaling untuk memahami taruhannya dalam pengembangan AI, dan tidak ada konsensus ilmiah yang dapat membimbing mereka. Salah satu kesimpulan terbesar saya di sini adalah bahwa kita perlu mengetahui lebih banyak. Tidak mungkin membuat keputusan yang baik tanpa pemahaman yang lebih jelas tentang apa yang kita bangun, mengapa kita membangunnya, apa yang bisa salah, dan seberapa buruk kesalahan itu mungkin terjadi.
