Statistik dalam Analisis Regresi: Koefisien Regresi dan Koefisien Determinasi, Bukan "Korelasi"

Beberapa waktu yang lalu, saya menyadari bahwa masih banyak akademisi yang belum paham tentang konsep analisis regresi dan pelaporannya, sehingga koefisien regresi selalu disamakan dengan korelasi.

Secara statistik, pada analisis regresi sederhana pernyataan tersebut relatif benar karena nilai korelasi yang dihasilkan sama persis dengan nilai koefisien regresi, tetapi, hal tersebut mengundang kesalahpahaman umum karena meskipun nilai yang dihasilkan sama tetapi nilai korelasi dan koefisien regresi adalah hal yang berbeda. 

Meskipun pernyataan tersebut mungkin terdengar dari akademisi dan terdengar meyakinkan (dengan bukti nilai yang bisa sama antara keduanya), namun sebenarnya pernyataan tersebut dipenuhi dengan kesalahpahaman umum mengenai istilah-istilah statistik. 

Dewasa ini,  keputusan berdasarkan data menentukan segalanya melampaui dunia pendidikan, mulai dari strategi bisnis hingga saran kesehatan, memahami dasar-dasar analisis statistik menjadi lebih penting dari sebelumnya. Namun, kesalahpahaman masih terus terjadi, terutama mengenai analisis regresi.

Banyak orang yang salah mengartikan koefisien regresi dengan nilai korelasi atau salah mengartikan koefisien regresi dan koefisien determinasi sehingga menghasilkan kesimpulan yang menyesatkan. Untuk menavigasi lanskap berbasis data secara efektif, penting untuk memahami arti sebenarnya dari istilah-istilah tersebut dan perbedaannya.

Artikel ini bertujuan untuk menjelaskan konsep-konsep statistik tersebut, menjelaskan apa yang sebenarnya ditunjukkan oleh koefisien regresi, perbedaannya dengan nilai korelasi, dan arti sebenarnya dari koefisien determinasi. Dengan memahami miskonsepsi ini, saya berharap kita dapat  menafsirkan data secara akurat dan membuat keputusan yang tepat di dunia yang semakin kompleks.

Dasar-dasar Analisis Regresi

Analisis regresi adalah metode statistik yang sangat umum dan andal untuk digunakan dalam menguji hubungan antar variabel. Analisis regresi adalah senjata andalan dalam analisis di berbagai bidang, termasuk ekonomi, biologi, teknik, dan ilmu sosial, untuk memprediksi hasil dan menyimpulkan hubungan. 

Namun, meskipun digunakan secara luas, masih terdapat beberapa kesalahpahaman, khususnya mengenai penafsiran koefisien regresi dan hubungannya dengan koefisien korelasi dan determinasi. Artikel ini bertujuan untuk memperjelas konsep-konsep ini dan menghilangkan prasangka beberapa kesalahpahaman umum.

Pada intinya, analisis regresi melibatkan penyesuaian model statistik pada data untuk menggambarkan hubungan antara variabel terikat/dependen (sering dilambangkan sebagai Y) dan satu atau lebih variabel bebas/independen (dilambangkan dengan X1, X2, ....Xn), dengan bentuk paling sederhana adalah regresi linier sederhana, yang diwakili oleh persamaan:

Y=a+bX+e (tidak terstandardisasi), atau

Y=a+BX (terstandardisasi)

dengan Y adalah variabel dependen, a adalah nilai konstan, b adalah koefisien regresi tidak terstandardisasi dan adalah koefisien regresi yang terstandardisasi, X adalah variabel independen, dan e adalah residual.

Tujuannya adalah untuk memperkirakan koefisien regresi (b dan ), yang mewakili perubahan rata-rata dalam variabel independen untuk perubahan satu satuan dalam variabel dependen, dengan asumsi semua variabel lainnya konstan.

Misal, ketika motivasi diasumsikan memengaruhi prestasi, kita ingin mengetahui berapa banyak perubahan rata-rata dalam motivasi dari skor prestasi 8 ke 9.

Kesalahpahaman 1: Beta (Koefisien Regresi) adalah Nilai Korelasi

Salah satu kesalahpahaman umum adalah bahwa koefisien regresi (b dan ) setara dengan koefisien korelasi. Ini tidak benar. Meskipun kedua konsep tersebut menggambarkan hubungan antar variabel, keduanya tidaklah sama.

• Koefisien Regresi (): Nilai koefisien regresi () mengukur perubahan dalam variabel dependen untuk perubahan satu unit dalam variabel independen, dengan menjaga agar variabel lain tetap konstan. Hal ini dipengaruhi oleh besar kecilnya variabel.
• Koefisien Korelasi (r): Nilai korelasi adalah ukuran standar yang mengukur kekuatan dan arah hubungan linier antara dua variabel. Nilainya berkisar antara -1 hingga 1, dimana -1 menunjukkan hubungan linier negatif sempurna, 1 menunjukkan hubungan linier positif sempurna, dan 0 menunjukkan tidak ada hubungan linier.

Koefisien korelasi memberikan ukuran hubungan antara dua variabel yang tidak berdimensi, sedangkan koefisien regresi menunjukkan seberapa besar perubahan variabel dependen seiring dengan perubahan variabel independen, dengan mempertimbangkan skala variabel.

Jadi, meskipun dalam analisis regresi sederhana (1 variabel dependen dan 1 variabel independen) nilai koefisien regresi akan sama dengan nilai korelasi, koefisien regresi bukan korelasi. Hal ini akan terlihat jelas pada analisis regresi dengan variabel yang lebih banyak (misalnya pada analisis regresi berganda, analisis regresi multivariat).

Kesalahpahaman 2: Koefisien Regresi adalah Koefisien determinasi

Kesalahpahaman umum lainnya adalah mengacaukan koefisien regresi dengan koefisien determinasi, yang juga dikenal sebagai koefisien determinasi atau R-square (R^2).

Sebenarnya tidak mengherankan jika kita melihat bahwa ketika nilai b dan dianggap korelasi, tentu akan ada nilai lain yang dianggap nilai regresi (yang sudah pasti tidak akurat).

• Koefisien Regresi (): Sebagaimana disebutkan di atas, nilai koefisien ini mewakili perubahan dalam variabel dependen untuk perubahan satu unit dalam variabel independen. Terdapat koefisien regresi berganda dalam model regresi berganda, satu untuk setiap variabel independen.
• Koefisien determinasi (R-square (R^2)): Statistik ini mengukur proporsi varians variabel dependen yang dapat diprediksi dari variabel independen. Kisarannya antara 0 hingga 1, dimana 0 menunjukkan bahwa variabel independen tidak menjelaskan satu pun varians dalam variabel dependen, dan 1 menunjukkan bahwa variabel independen menjelaskan semua varians.

Intinya, meskipun koefisien regresi () memberi tahu kita tentang hubungan antara variabel independen dan variabel dependen, koefisien determinasi (R-square (R^2)) memberikan ringkasan keseluruhan tentang seberapa baik variabel-variabel independen, secara keseluruhan, menjelaskan varians dalam variabel dependen.

Kesimpulan

Koefisien korelasi (r) merupakan ukuran tanpa satuan yang hanya menunjukkan kekuatan dan arah hubungan linier antara dua variabel, tanpa memberikan informasi mengenai besarnya perubahan.

Koefisien regresi () bergantung pada satuan variabel dan memberikan ukuran langsung tentang seberapa besar perubahan variabel dependen seiring dengan perubahan variabel independen. Setiap nilai b dan dikhususkan untuk masing-masing variabel independen dan menggambarkan pengaruh langsungnya terhadap variabel dependen.

Koefisien determinasi (R-square (R^2)) merangkum explanatory power dari keseluruhan model regresi, yang menunjukkan proporsi varians dalam variabel dependen yang diperhitungkan oleh semua variabel independen secara bersamaan.

Memahami perbedaan antara koefisien regresi, koefisien korelasi, dan koefisien determinasi sangat penting untuk menafsirkan hasil analisis regresi dengan benar. 

Koefisien regresi (b dan) mengukur pengaruh variabel independen individu terhadap variabel dependen, koefisien korelasi (r) mengukur kekuatan dan arah hubungan antara dua variabel, dan koefisien determinasi ((R-square (R^2))memberikan ukuran keseluruhan tentang seberapa baik variabel independen menjelaskan varians variabel dependen.

Pada analisis korelasi, maka benar jika nilai yang dilaporkan adalah nilai korelasi, beserta signifikansinya.

Lalu apa yang dilaporkan pada analisis regresi?

Pada analisis regresi, nilai yang harus dilaporkan adalah:

1. Uji model, nilai F beserta signifikansinya.

2. Koefisien regresi terstandardisasi untuk semua variabel independen (meskipun hanya ada 1 variabel independen dalam analisis regresi sederhana, tetap dilaporkan sebagai koefisien regresi, bukan korelasi).

3. Koefisien determinasi.

Dengan memperjelas konsep-konsep ini dan menghilangkan prasangka kesalahpahaman umum, akademisi dan praktisi dapat menafsirkan analisis regresi dengan lebih akurat dan membuat keputusan berdasarkan hasil yang diperoleh. (oni)