Menurut riset Facebook sendiri, misinformation/disinformation, bahkan konten kebencian dan kekerasan bisa meningkatkan aktivitas di Facebook, atau meningkatkan interaksi antar penggunanya, juga meningkatkan duration dalam penggunaan Facebook. Itu tentu artinya keuntungan finansial yang lebih besar. Sehingga Facebook tidak melakukan upaya untuk mencegah atau mengurangi itu. Meski demikian Facebook berpura-pura melakukan upaya itu.
Seperti dikutip dari satu artikel di Massachusetts Institute of Technology Review:
Frances Haugen, a former product manager at the company, says she came forward after she saw Facebook's leadership repeatedly prioritize profit over safety.
Berulang-ulang Frances mengatakan ini di depan komisi yang membidangi persoalan media sosial di Kongres Amerika akhir tahun lalu itu:
Facebook ... knows---they have admitted in public---that engagement-based ranking is dangerous without integrity and security systems but then not rolled out those integrity and security systems in most of the languages in the world," she told the Senate today. "It is pulling families apart. And in places like Ethiopia it is literally fanning ethnic violence.
Dalam tulisan tersebut di atas juga disebut kasus yang terjadi di Myanmar, di mana berita palsu, hoax, ujaran kebencian menjadi-jadi seputar minoritas muslim Rohingya. Facebook di tahun 2018 mengakui tidak melakukan upaya yang berarti untuk mencegah penggunanya memanfaatkan (menunggangi) Facebook untuk mengeskalasi kekerasan.
Ini kutipan dari tulisan itu:
The machine-learning models that maximize engagement also favor controversy, misinformation, and extremism: put simply, people just like outrageous stuff.
Sometimes this inflames existing political tensions. The most devastating example to date is the case of Myanmar, where viral fake news and hate speech about the Rohingya Muslim minority escalated the country's religious conflict into a full-blown genocide. Facebook admitted in 2018, after years of downplaying its role, that it had not done enough "to help prevent our platform from being used to foment division and incite offline violence.
Tentu masih ada lagi kasus-kasus lain di dunia yang menunjukkan Facebook telah ditunggangi untuk tujuan yang mengoyak kemanusiaan. Misalnya kasus presidential election di Amerika pada tahun 2017 dan tahun 2020, serta juga kasus penjatuhan Ahok di tahun 2017 di Jakarta.
Di setiap kasus seperti itu, Facebook dihadapkan pada pilihan: meningkatkan jumlah penggunanya, durasi, dan interaksi antar penggunanya atau kebalikannya.
