Konsep Dasar Analisis Regresi

 Proses memperkirakan secara sistematis tentang apa yang paling mungkin terjadi dimasa yang akan datang berdasarkan informasi yang sekarang dimiliki untuk memperkecil kesalahan, itu lah yang dinamakan dengan regresi. Regresi ialah sebagai alat utama Ekonometrika. Yang fokusnya terhadap penelitian yang menjadikan variabel dependen sebagai suatu fungsi linear dari satu atau lebih variabel, yaitu variabel penjelas dalam rangka mengestimasi atau memprediksi rata-rata populasi.

Asal mula regresi pertama kali dikenalkan oleh Francis Galton pada tahun 1886. Pada  sebuah karya tulisnya yang terkenal, Galton menemukan bahwa walaupun terdapat kecenderungan dari orang tua yang berbadan tinggi untuk memiliki anak dengan badan yang tinggi, serta orang tua yang berbadan pendek cenderung memiliki anak dengan badan yang pendek. Rata-rata tinggi badan anak yang lahir dari orang tua yang berbadan tinggi tertentu cenderung untuk bergerak atau "beregresi" menuju rata-rata tinggi badan populasi secara keseluruhan, yang disebut Hukum Regresi Universaloleh Galton. Kemudian hukum Galton ini dikonfi rmasi oleh temannya, Karl Pearson yang menemukan bahwa rata-rata tinggi badan anak laki-laki dari kelompok ayah yang berbadan tinggi, lebih rendah dari tinggi badan ayahnya dan rata-rata tinggi badan anak laki-laki dari kelompok ayah berbadan pendek, lebih besar dan berbadan pendek secara bersama akan mengarahkan pada tinggi badan rata-rata semua laki-laki, dan disebut "regresi menuju (mediokrasi)" (Gujarati, 2010: 19).

Sedangkan regresi dalam pengertian modern jauh berbeda. Karena pada regresi modern secara umum berkenaan dengan studi yang berkaitan antar satu variabel dengan variabel lainnya dengan maksud menduga atau meramalkan nilai rata-rata hitung atau rata-rata populasi dari variabel yang terikat. Contoh sederhana adalah produksi tanaman dan curah hujan. Produksi tanaman sebagai variabel dependent dan curah hujan sebagai variabel penjelas. Dan hubungan regresinya digunakan untuk meramalkan produksi tanaman berdasarkan curah hujan yang tejadi.

Ada dua jenis analisis regresi yaitu analisis regresi sederhana  yaitu analisis regresi yang melibatkan dua peubah saja, satu peubah bebas dan satu peubah penjelas. Yang kedua adalah analisis regresi berganda yaitu analisis regresi yang melibatkan lebih dari dua peubah, satu peubah bebas dan beberapa peubah penjelas.