Regresi dan korelasi adalah hal yang saling berkaitan. Ibaratnya, dimana ada regresi sudah pasti ada korelasi. Namun adanya korelasi belum tentu dilanjutkan dengan regresi. Korelasi yang tidak dilanjutkan dengan regresi adalah korelasi yang tidak mempunyai hubungan sebab akibat/kausal atau dinamakan dengan hubungan fungsional.
Hubungan antara panas dan tingkat muai panjang di katakan hubungan kausal. Hubungan antara pemimpin dengan kepuasan kerja pegawai dikatakan hubungan fungsional. Namun kupu-kupu yang singgah dirumah dengan banyaknya tamu yang datang tidaklah ada hubungan.
Nah kali ini yang akan kita tekankan bukanlah mengenai kupu-kupu yang hinggap dirumah untuk memperkirakan berapa tamu yang akan datang kerumah namun akan membahas mengenai analisis regresi yang mana ada regresi linear sederhana dan regresi linear berganda. Analisis regresi digunakan apa bila kita ingin mengetahui peubah bebas dapat diprediksi melalui peubah tak bebas.
Analisis regresi sederhana yaitu menduga rata-rata peubah tak bebas berdasarkan nilai peubah tak bebas yang diketahui. Analisis regresi sederhana didasarkan pada hubungan fungsional maupun hubungan kausal antara peubah bebas dan peubah tak bebas.
Secara praktis kegunaan analisis regresi sederhana ini adalah untuk memprediksi nilai Y dan mengukur pengaruh variabel X terhadap variabel Y.
Satu rumus (menyebalkan) yang akan saya paparkan mengenai persamaan umum regresi linear sederhana yaitu :
Y = a + b X1+ e
Dimana Y adalah subjek dalam peubah bebas yang diprediksikan. a adalah harga Y bila X=0 (harga konstan) atau disebut juga dengan 'intercept'. b adalah koefisien regresi atau 'slope' dan e adalah error atau residual.
Fungsi Regresi Populasi (FRP) adalah fungsi yang menyatakan bagaimana nilai rata-rata (populasi) bervariasi bersama dengan x.
Sedangkan FRS atau Fungsi Regresi Sampel hanyalah suatu metode yang menyatakan bagaimana untuk menaksirkan parameter populasi dari infonrasi yang diberikan oleh sampel yang ada. FRS adalah sebagai perkiraan FRP. FRS ini yang akan dipergunakan untuk meramalkan Y jika peubah bebas sudah diketahui.