Going out with a bang (Keras)Â
Skenario kedua ini agak ekstrim, jika kita tahu cara terbaik untuk mencapai tujuan dengan mempengaruhi orang lain agar dapat membantu mencapai tujuan itu.Â
Jika kamu mencoba meluncurkan sebuah startup, kamu bisa membuat sistem AI menggunakan cara buruk dalam mencapai tujuannya, yang berujung pada kegagalan yang mengerikan. :
Bencana (catastrophe) akan terjadi selama beberapa periode - konflik antara negara, bencana alam, cyber attack yang serius, dll.Â
Bencana itu mungkin terlihat seperti serangkaian kegagalan otomatisasi yang bertingkat: beberapa sistem otomatis keluar dari jalurnya sebagai respon terhadap gangguan lokal.Â
Ketika sistem-sistem itu keluar dari jalur, gangguan menjadi lebih besar; semakin banyak sistem otomatis menjauhi jalan standar dan mulai gagal.Â
Secara nyata ini diperparah oleh kegagalan manusia yang luas sebagai respon terhadap ketakutan dan gangguan sistem keuangan otomatis.Â
Ketergantungan manusia pada sistem mesin ini, dikombinasikan dengan kegagalan sistem, mengarah kepada kehancuran sosial besar-besaran. 
Kedua skenario ini cukup masuk akal, karena menggambarkan bagaimana dalam keseharian kita banyak bergantung pada internet, dan AI, seperti menemukan lokasi, menemukan teman kencan, asisten pasar saham, mencari hotel dan penerbangan termurah, dsb.Â
Dengan berkembangnya berbagai macam aplikasi AI, dan semua kepraktisan yang ditawarkan, kita akan menjadi malas memanfaatkan kemampuan kita sendiri, ini akan mengarahkan AI untuk menguasai kehidupan kita karena membuat kita terus bergantung dengan teknologi mereka.
Pengalaman pahit saya alami sendiri, betapa pentingnya bertanya ke penduduk lokal ketika tidak tahu jalan. Jangan sepenuhnya mengandalkan AI di Maps, karena meskipun dia menuntunmu ke tujuan yang benar bisa jadi kamu dilewatkan ke jalan sulit yang bisa
menimbulkan kecelakaan, ngarai curam dan tebing terjal yang bisa membuatmu celaka.
Referensi:Â www.vox.com
