Banyak prediksi yang mengatakan suatu saat robot akan mengambil alih kehidupan manusia.
Robot humanoid (mirip manusia) mungkin bukan menjadi masalah terbesar dunia kita sekarang. Masalah terbesarnya adalah kemampuan dan imbas robot yang tidak pernah terfikirkan (dan akan terjadi).
Pernah terdengar kabar bahwa orang-orang di Silikon Valley (pusat IT dunia di California, AS) semakin kuatir dengan kecerdasan buatan/ Artificial Intelligence (AI) yang dapat menyebabkan kepunahan manusia, itu parno yang cukup ekstrim dan menggelikan.
Ingat Terminator?, cyborg alias manusia buatan. Itu adalah contoh khayalan tentang evolusi AI yang terlalu menakutkan, alasan besar yang didasari skenario yang cukup konyol.
Apa yang dipikirkan manusia akan benar-benar terjadi?
Apakah beberapa perusahaan akan nekat membangun Skynet dan membuat robot AI sekelas Terminator untuk membantai siapa pun yang menghalangi rencana mereka? Rasanya ini hanya fantasi ilmiah, tidak akan jadi kenyataan.
Nate Soares, peneliti Machine Intelligence Research Institute, berpendapat analogi yang lebih tepat bukanlah Terminator melainkan adegan “Sorcerer's Appretince” di Film Disney Fantasia. Ada adegan dimana Mickey (mouse) memberikan perintah sapu ajaib untuk membantunya mengambil air dari kolam dengan ember dan menuangnya ke dalam penampungan besar, serta menjaganya tetap penuh. Ternyata sapu ini melakukan tugas itu terlalu baik.
Apa analoginya?
Yang menjadi masalah bukan Robot AI tiba-tiba memutuskan untuk menghabisi penciptanya (manusia); akan jadi gawat saat kita keliru memberikan perintah (tidak jelas) dan membuat mereka mengikuti perintah kita dengan cara yang tidak kita harapkan.
Yang bisa kita amati, sistem otomatis yang diarahkan dengan buruk dapat menyebabkan konsekuensi besar yang tidak diinginkan, dan akan memicu bencana. AI akan menimbulkan risiko besar. Kita jangan berpikir AI memiliki motif (rencana) jahat, atau benar- benar mampu membuat rencana jahat. Itu terlalu paranoid.
Yang terjadi adalah manusia buruk dalam memerintah sebuah mesin, parahnya direspon mesin dengan teknologinya yang teramat kuat.
Kesalahan perintah manusia terhadap mesin, menimbulkan kegagalan yang bisa berakibat fatal. Contohnya jika kita memerintahkan robot untuk membersihkan kaca cermin, ternyata yang dia lakukan malah menghancurkannya. (Ini adalah salah penafsiran informasi)
Jadi seperti apa skala kehancuran akibat AI yang ditakutkan manusia?
Paul Christiano, ahli AI Safety di OpenAI, baru-baru ini menguraikan dua skenario besar, agar lebih mudah kita pahami.
Inilah dua kategori besar potensi bencana karena AI:
1. Going out with a whimper
2. Going out with a bang
Going out with a whimper (Pelan)
Manusia sudah lebih baik dalam hal memaksimalkan hasil yang mudah diukur daripada hasil yang sulit diukur.
Lebih mudah untuk meningkatkan nilai standar tes matematika daripada meningkatkan pengetahuan siswa akan matematika yang sebenarnya.
Lebih mudah melaporkan adanya perampokan daripada mencegahnya.
Sayangnya manusia tidak selalu pandai memperkirakan tujuan-tujuan mesin ini, dan AI tidak pandai membedakan antara interpretasi yang masuk akal atau tidak dari instruksi manusia.
Bayangkan kamu adalah CEO perusahaan sepatu terkenal: Nike, dan memiliki mesin AI baru yang dapat merekomendasikan cara memaksimalkan keuntungan perusahaan. Andai dia merekomendasikan jenis sneaker baru yang bakal populer, itu hebat!
Namun jika dia justru merekomendasikan pencucian uang skala besar dan "pembunuhan" dengan target pelanggan Reebok (untuk menimbulkan ketakutan pasar) - itu sangat mengerikan!
Itu adalah contoh dramatis. Seperti yang dicatat Christiano, kita mungkin bisa menghindari ini sejak awal hanya dengan mengubah kode untuk menjaga mesin supaya tidak mengeluarkan hasil buruk. Kita dapat mengatasi masalah ini dengan mengenali mereka dan memaksakan pembatasan ad-hoc yang menghindari manipulasi atau penyalahgunaan.
Tetapi ketika sistem mesin menjadi sangat kompleks, pekerjaan itu sendiri menjadi terlalu berat untuk dipecahkan oleh akal manusia.
Harus ada batasan yang diberlakukan, karena puluhan bahkan ratusan solusi alternatif yang buruk bisa dihasilkan oleh sistem otomatis yang kita beri wewenang penuh untuk memecahkan masalah sendiri.
Harus ada kesepakatan di antara manusia untuk menganggap semua yang dilakukan AI adalah serba salah, sampai ada suatu kontrol atau regulasi yang mengatur mereka.
Kita sadari bahwa manusia banyak mempercayakan otoritas pengambilan keputusan berdasarkan algoritme rumit yang tidak mampu diolah oleh otak kita sendiri, namun dengan mudah bisa dipecahkan oleh mesin. Ironisnya kita yang menciptakan AI, kita tidak kepikiran kalau AI akan memperdaya kita, menipu kita untuk melakukan tindakan yang salah. Mereka adalah ciptaan yang sempurna secara matematis dan algoritma.
Jika kamu mampu membayar penasehat saham AI, seperti yang sudah dijual oleh Betterment, akankah kamu mempercayai kemampuanmu sendiri untuk memilih saham?
Skenario pertama ini tampaknya tidak menggambarkan kepunahan manusia karena AI, namun kita akan menjadi agennya AI, mesin yang notabene kita buat sendiri dan menurut semua arahan yang diberikan AI. Kita melakukan semua yang mereka sarankan, karena itu kebenaran mutlak secara algoritma menurut mereka tapi kita tidak ikut serta mempertimbangkannya.
Going out with a bang (Keras)
Skenario kedua ini agak ekstrim, jika kita tahu cara terbaik untuk mencapai tujuan dengan mempengaruhi orang lain agar dapat membantu mencapai tujuan itu.
Jika kamu mencoba meluncurkan sebuah startup, kamu bisa membuat sistem AI menggunakan cara buruk dalam mencapai tujuannya, yang berujung pada kegagalan yang mengerikan. :
Bencana (catastrophe) akan terjadi selama beberapa periode - konflik antara negara, bencana alam, cyber attack yang serius, dll.
Bencana itu mungkin terlihat seperti serangkaian kegagalan otomatisasi yang bertingkat: beberapa sistem otomatis keluar dari jalurnya sebagai respon terhadap gangguan lokal.
Ketika sistem-sistem itu keluar dari jalur, gangguan menjadi lebih besar; semakin banyak sistem otomatis menjauhi jalan standar dan mulai gagal.
Secara nyata ini diperparah oleh kegagalan manusia yang luas sebagai respon terhadap ketakutan dan gangguan sistem keuangan otomatis.
Ketergantungan manusia pada sistem mesin ini, dikombinasikan dengan kegagalan sistem, mengarah kepada kehancuran sosial besar-besaran.
Kedua skenario ini cukup masuk akal, karena menggambarkan bagaimana dalam keseharian kita banyak bergantung pada internet, dan AI, seperti menemukan lokasi, menemukan teman kencan, asisten pasar saham, mencari hotel dan penerbangan termurah, dsb.
Dengan berkembangnya berbagai macam aplikasi AI, dan semua kepraktisan yang ditawarkan, kita akan menjadi malas memanfaatkan kemampuan kita sendiri, ini akan mengarahkan AI untuk menguasai kehidupan kita karena membuat kita terus bergantung dengan teknologi mereka.
Pengalaman pahit saya alami sendiri, betapa pentingnya bertanya ke penduduk lokal ketika tidak tahu jalan. Jangan sepenuhnya mengandalkan AI di Maps, karena meskipun dia menuntunmu ke tujuan yang benar bisa jadi kamu dilewatkan ke jalan sulit yang bisa
menimbulkan kecelakaan, ngarai curam dan tebing terjal yang bisa membuatmu celaka.
Referensi: www.vox.com
