BAB 1 PENDAHULUAN
1.1 Latar Belakang
Sosial media merupakan sebuah media yang digunakan untuk bersosialisasi satu sama lain melalui online yang memungkinkan manusia dapat berinteraksi tanpa dibatasi ruang dan waktu. Kehadiran media sosial ditengah masyarakat kini telah memberikan manfaat yang sangat besar mulai dari mengirim pesan kepada satu sama lain, mencari informasi dan berbagi informasi yang sedang hangat di kalangan masyarakat, jadi tidak heran lagi apabila media sosial menjadi salah satu kebutuhan penting bagi setiap orang. Singkatnya media sosial sebagai suatu platform digital yang menyediakan fasilitas untuk melakukan aktivitas sosial bagi setiap penggunanya, yang terbuka selama 24 jam penuh. Perkembangan teknologi komunikasi dan informasi ini mengalami perkembangan yang sangat pesat yang menjadi budaya populer di kalangan masyarakat, salah satunya adalah tiktok.
Tiktok merupakan media baru yang dibuat pada tahun 2016 oleh perusahaan ByteDance asal china dengan tujuan memberikan wadah bagi para penggunanya untuk dapat berekspresi dan mengasah bakat melalui sebuah konten video yang bermanfaat, menginspirasi dan memotivasi. Karena media sosial tiktok adalah media audio visual yang menyebarluaskan berbagai kreatifitas dan keunikan dari para penggunanya. Media sosial adalah sebuah fenomena yang memiliki pengaruh sangat besar yang sebaran penggunannya sangat luas sehingga suatu hal yang ada di dalam media sosial memiliki dampak positif dan negatif yang tinggi. Selain untuk berkomunikasi dan berinteraksi media sosial biasanya digunakan sebagai sarana promosi banyak hal, media untuk sarana pendidikan dan sebagai sarana penyampaian informasi. Namun dari kegunaan positif dari media sosial banyak juga digunakan oleh pihak-pihak yang tidak bertanggung jawab atau untuk kepentingan tertentu maupun pribadi yang akan menimbulkan kerugian atau kerusakan bagi pihak lain. Perkembangan pesat dari teknologi memunculkan fenomena baru yaitu deepfake.
Deepfake merupakan salah satu tipe dari kecerdasan buatan (AI) yang digunakan untuk membuat foto, audio, video yang cukup meyakinkan. Deepfake ini dibuat menggunakan dua algoritma AI yang saling bertentangan yaitu generator dan diskriminator. Generator ini yang memberikan sekumpulan data asli yang digunakan untuk menghasilkan sebuah data palsu. Lalu data tersebut di unduh dan diberikan kepada diskriminator untuk membedakan sebuah konten apakah itu asli atau palsu. Jika berhasil generator akan mempelajari bagaimana diskriminator yang dapat menentukan asli dan palsu yang kemudian akan mengoreksi dirinya sendiri, sehingga mereka membentuk sebuah hal baru yang disebut Generative Adversarial Network (GAN). GAN ini pada dasarnya menggabungkan dua jaringan saraf menjadi satu dan membuatnya saling bersaing satu sama lain untuk menghasilkan sebuah produk yang lebih baik. Atau singaktnya bahwa deepfake ini menggunakan subset kecerdasan buatan (AI) yang disebut dengan deep learning untuk memanipulasi audio, gambar dan video dalam pembuatan konten media hiper-realistis.
Salah satunya adalah pemanfaatan media sosial tiktok yang telah banyak digunakan oleh para penggunannya untuk memenuhi kebutuhan informasi yang mereka butuhkan. Dapat diketahui bahwa tiktok memproduksi berbagai macam konten video yang berdurasi 16-10 menit ini memproduksi konten mulai dari edukasi, informasi bahkan banyak dampak negatif juga dari konten yang telah dihasilkan, salah satu dari banyakanya konten negatif yang di hasilkan di tiktok adalah deepfake. Deepfake atau palsu murahan yang pada dasarnya sebuah konten palsu telah diubah menggunakan teknologi yang tersedia dan mudah digunakan. Teknologi deepfake ini pada dasarnya merupakan kecerdasan buatan yang mampu membuat video, foto dan audio manusia yang realistis namun palsu. Deepfake memiliki kecanggihan yang mana membuat mata biasa sulit membedakan mana sebuah konten yang asli dan palsu, yang membuat terjadinya penyalahgunaan pada media sosial tiktok tersebut.
Hadirnya deepfake membuat pihak-pihak yang memanfaatkan tiktok sebagai wadah mereka untuk membagikan sebuah konten palsu yang mereka hasilkan tersebut. Deepfake ini seringkali disalahgunakan untuk pelecehan, menyebarkan hoax, ponografi, kejahatan, ujaran kebencian dan penipuan. Sasaran deepfake ini tidak akan memandang bulu yang mana bisa terjadi kepada siapapun. Salah satu kasus dari deepfake yang tengah ramai di media sosial tiktok indonesia yaitu beredarnya video tenntang Presiden Repblik Indonesia Joko Widodo yang sedang berbicarah dengan fasih menggunakan bahasa mandarin. Padahal video tersebut hanyalah rekayasa dari deepfake mungkin bagi yang melihatnya akan percaya bahwa itu video asli dari Presiden RI Joko Widodo, namun ketika diteliti dan mencari tahu dari banyak sumber maka akan ditemukan bahwa video tersebut palsu yang menggunakan kecerdasan buatan AI. Terlepas dari adanya nilai hiburan yang ditimbulkan dari deepfake ini membuat beberapa ahli telah memberikan peringatan bahaya yang akan terjadi dari kecanggihan teknologi tersebut. “Deepfake yang digunakan untuk menyebarkan berita palsu dan merusak keamana nasional.” ujar peringatan dari Direktur Kelompok Riset Keamanan Siber King’s College, London, Inggris, Dr Tim Stevens
Seperti halnya ketika kita melakukan sebuah perjalanan maka akan terdapat jejak yang menandai setiap aktifitas yang sudah kita lalui sebelumnya jejak tearsebut dapat hilang, berbeda dengan aktifitas pada dunia maya yang mana jejak digital tidak dapat dihilangkan begitu saja. Jejak digital merupakan semua informasi yang sudah ditinggalkan seseorang. Keberaadaan jejak digital ini memberikan konsekuensi terhadap keamanan pada dunia maya, yang menjadi kesadaran utama yang perlu kita sadari bahwa potensi penyalahgunaan teknologi deepfake ini dapat berangsur semakin memburuk pada masa depan ditambah dengan tiktok sebagai media sosial yang memang memproduksi sebuah konten video, yang menjadikan video dari deepfake ini semakin banyak beredar di media sosial tiktok. Sebagai pengguna media sosial harus bisa bijak terhadap sebuah konten video ataupun gambar yang terlihat tidak wajar.
1.2 Rumusan Masalah
1. Bagaimana penyalahgunaan media sosial TikTok dapat berdampak negatif terhadap kesehatan mental pengguna, memicu perilaku tidak sehat, dan potensial mengakibatkan dampak sosial yang merugikan?
2.Bagaimana penyalahgunaan teknologi deep fake dan kecerdasan buatan (AI) pada platform TikTok dapat mengancam privasi individu, menyebabkan manipulasi informasi, dan membuka potensi risiko dalam konteks keamanan digital?
3. Sejauh mana penyalahgunaan media sosial TikTok melalui teknologi deep fake, kecerdasan buatan (AI), dan teknologi sejenis dapat menimbulkan ancaman terhadap privasi individu, menyebabkan penyebaran informasi palsu, serta memicu potensi risiko moral dan hukum?
1.3 Tujuan Penelitian
1. Untuk mengetahui penyalahgunaan media sosial TikTok yang dapat berdampak negatif terhadap kesehatan mental pengguna, memicu perilaku tidak sehat, dan potensial mengakibatkan dampak sosial yang merugikan.
2. Untuk mengetahui penyalahgunaan teknologi deep fake dan kecerdasan buatan (AI) pada platform TikTok dapat mengancam privasi individu, menyebabkan manipulasi informasi, dan membuka potensi risiko dalam konteks keamanan digital.
3. Untuk mengetahui Sejauh mana penyalahgunaan media sosial TikTok melalui teknologi deep fake, kecerdasan buatan (AI), dan teknologi sejenis dapat menimbulkan ancaman terhadap privasi individu, menyebabkan penyebaran informasi palsu, serta memicu potensi risiko moral dan hukum.
1.4 Manfaat Penelitian
Manfaat untuk pembaca adalah Penelitian ini memberikan pemahaman mendalam kepada pembaca tentang risiko etika yang terkait dengan penggunaan media sosial TikTok dalam konteks deepfake. Pembaca dapat memperoleh wawasan tentang potensi manipulasi informasi, perlunya kehati-hatian dalam mengonsumsi konten online, dan pentingnya melibatkan kebijakan yang dapat melindungi individu dari dampak negatif teknologi deepfake. Selain itu, penelitian ini dapat memberikan dasar untuk advokasi kebijakan yang lebih ketat terkait keamanan digital dan etika media sosial. Manfaat untuk umum adalah Penelitian mengenai etika penyalahgunaan media sosial TikTok terkait deepfake memberikan manfaat untuk pemahaman umum terhadap tantangan etika dan risiko yang terkait dengan perkembangan teknologi. Ini dapat membantu masyarakat lebih waspada terhadap manipulasi konten, meningkatkan literasi digital, dan mendorong sikap kritis terhadap informasi yang disajikan di platform media sosial. Dengan pemahaman yang lebih baik, individu dapat mengambil langkah-langkah yang lebih bijak dalam berinteraksi dengan media sosial dan melindungi diri dari potensi penyalahgunaan.
BAB 2 PEMBAHASAN
2.1 Kajian pustaka
Dalam era kemajuan teknologi informasi, fenomena deepfake menjadi sorotan dalam analisis etika, khususnya ketika diterapkan dalam konteks media sosial. Penelitian ini menggali lebih dalam pada aspek etika terkait dengan penyimpangan penggunaan media sosial TikTok dalam memanfaatkan teknologi deepfake, menyelidiki dampaknya terhadap kebenaran informasi, hak privasi individu, serta tanggung jawab platform dalam menjaga integritas dan keamanan siber. Ellen Kusuma & Nenden S. Arum melakukan penelitian tentang "Memahami dan Menyikapi Kekerasan Berbasis Gender Online" yang membahas fenomena kekerasan berbasis gender online, termasuk teknologi deepfake dan dampaknya terhadap korban.
Penelitian ini memiliki relevansi yang signifikan dengan analisis etika tentang penyalahgunaan media sosial TikTok terkait dengan deepfake. Meskipun topiknya berfokus pada risiko kekerasan berbasis gender online, banyak aspek yang dibahas dapat dihubungkan dengan perdebatan etika yang melibatkan penggunaan teknologi deepfake di platform media sosial seperti TikTok. Berikut beberapa dampak yang diberikan:
a. Dampak Psikologis dan Sosial deepfake dapat menciptakan dampak psikologis dan sosial yang merugikan, terutama jika digunakan untuk menyebarkan konten palsu atau merusak reputasi seseorang di TikTok.
b. Ancaman dan Pelecehan Online Analisis mengenai ancaman dan pelecehan online dalam konteks KBGO dapat memberikan pandangan yang bermanfaat dalam memahami bagaimana deepfake dapat menjadi alat untuk melakukan pelecehan atau ancaman tambahan di platform media sosial seperti TikTok. Strategi yang dibahas untuk menghadapi ancaman dapat diadaptasi atau diperluas untuk mencakup aspek deepfake.
c. Pencegahan dan Deteksi Strategi perlindungan data pribadi, upaya pencegahan konten intim non-konsensual, dan panduan sigap juga relevan ketika mempertimbangkan etika penggunaan deepfake di TikTok
d. Perlindungan Data Pribadi Penelitian ini membahas perlindungan data pribadi, dan sangat relevan dengan perbincangan etika terkait deepfake. Perlindungan data pribadi menjadi krusial ketika teknologi deepfake digunakan untuk memanipulasi wajah dan suara individu di TikTok.
2.2 Pembahasan
Dalam era kemajuan teknologi informasi, fenomena deepfake menjadi sorotan dalam analisis etika, khususnya ketika diterapkan dalam konteks media sosial. Penelitian ini menggali lebih dalam pada aspek etika terkait dengan penyimpangan penggunaan media sosial TikTok dalam memanfaatkan teknologi deepfake, menyelidiki dampaknya terhadap kebenaran informasi, hak privasi individu, serta tanggung jawab platform dalam menjaga integritas dan keamanan siber. Ellen Kusuma & Nenden S. Arum melakukan penelitian tentang "Memahami dan Menyikapi Kekerasan Berbasis Gender Online" yang membahas fenomena kekerasan berbasis gender online, termasuk teknologi deepfake dan dampaknya terhadap korban.
Relevansi yang signifikan dengan analisis etika tentang penyalahgunaan media sosial TikTok terkait dengan deepfake. Meskipun topiknya berfokus pada risiko kekerasan berbasis gender online, banyak aspek yang dibahas dapat dihubungkan dengan perdebatan etika yang melibatkan penggunaan teknologi deepfake di platform media sosial seperti TikTok. Berikut beberapa dampak yang diberikan:
a. Dampak Psikologis dan Sosial deepfake dapat menciptakan dampak psikologis dan sosial yang merugikan, terutama jika digunakan untuk menyebarkan konten palsu atau merusak reputasi seseorang di TikTok.
b. Ancaman dan Pelecehan Online Analisis mengenai ancaman dan pelecehan online dalam konteks KBGO dapat memberikan pandangan yang bermanfaat dalam memahami bagaimana deepfake dapat menjadi alat untuk melakukan pelecehan atau ancaman tambahan di platform media sosial seperti TikTok. Strategi yang dibahas untuk menghadapi ancaman dapat diadaptasi atau diperluas untuk mencakup aspek deepfake.
c. Pencegahan dan Deteksi Strategi perlindungan data pribadi, upaya pencegahan konten intim non-konsensual, dan panduan sigap juga relevan ketika mempertimbangkan etika penggunaan deepfake di TikTok
d. Perlindungan Data Pribadi Penelitian ini membahas perlindungan data pribadi, dan sangat relevan dengan perbincangan etika terkait deepfake. Perlindungan data pribadi menjadi krusial ketika teknologi deepfake digunakan untuk memanipulasi wajah dan suara individu di TikTok.
KESIMPULAN
Makalah analisis etika penyalahgunaan media sosial TikTok dalam konteks deepfake menggambarkan betapa pentingnya pertimbangan etika dalam penggunaan teknologi yang dapat memanipulasi konten visual. Dalam era di mana informasi dan konten dapat dengan mudah dipalsukan, risiko penyalahgunaan deepfake di TikTok menimbulkan kekhawatiran serius terkait privasi dan keamanan. Pentingnya upaya kolaboratif antara pengembang platform, pemerintah, dan masyarakat dalam menetapkan standar etika dan regulasi yang jelas menjadi sangat jelas. Penelitian ini menyoroti perlunya edukasi publik mengenai deteksi deepfake dan kesadaran akan potensi bahaya yang terkait dengan manipulasi media.
Dalam konteks etika, ditemukan bahwa penyalahgunaan deepfake di TikTok dapat merusak reputasi individu, memicu penyebaran informasi palsu, dan bahkan dapat digunakan untuk kegiatan kriminal. Oleh karena itu, implementasi langkah-langkah keamanan dan penegakan hukum yang ketat perlu menjadi fokus untuk mencegah dan mengatasi penyalahgunaan ini. Pengguna TikTok juga memiliki peran penting dalam melaporkan konten yang mencurigakan atau merugikan, sehingga kolaborasi antara platform dan pengguna menjadi kunci untuk menciptakan lingkungan yang lebih aman dan etis di media sosial.
Sumber-sumber utama yang dapat digunakan untuk mendukung makalah ini termasuk jurnal ilmiah tentang etika teknologi, laporan riset keamanan siber, dan panduan kebijakan media sosial. Penelitian mendalam dan analisis terhadap implementasi kebijakan keamanan serta dampak sosial dari deepfake di TikTok dapat memberikan pemahaman yang lebih baik tentang tantangan etika yang dihadapi oleh platform media sosial ini.
