Konsep Dasar Analisis Regresi

Analisis regresi merupakan teknik yang khas untuk jenis penelitian asosiatif. Analisis regresi bertujuan mempelajari (pengaruh) variabel bebas (predictor) terhadap variabel terikat (criterion).

Sedangkan didalam ekonometrika, regresi berfokus pada penelitian yang menjadikan variabel dependen sebagai suatu fungsi linear dari satu atau lebih variabel, yaitu variabel penjelas (independen) dalam rangka mengestimasi dan/atau memprediksi rata-rata populasi.

Asal mula istilah regresi berawal dari Francis Galton yang menyebut regresi dengan REGRESI MENUJU MEDIOKRASI.Saat itu ia meneliti tentang Kecenderungan orang tua berbadan tinggi melahirkan anak dengan badan yang lebih tinggi serta orang tua yang berbadan pendek melahirkan anak dengan badan pendek atau menuju rata-rata tinggi badan populasi keseluruhan. Dikonfirmasi oleh pengumpulan data Karl Pearson  lebih dari 1000, Hasilnya

Dalam regresi modern, interpretasinya tentang:

Mempelajari hubungan ketergantungan dari satu peubah tak bebas (dependent) kepada satu atau lebih peubah penjelas (explanatory)

Menduga rata-rata populasi dari peubah tak bebas berdasarkan pengetahuan mengenai nilai peubah penjelas (variabel bebas) yang kita ketahui

Ada beberapa hubungan didalam analisis regresi yaitu:

• Deterministik vs Stokastik

1. Hubungan deterministik antar peubah apabila semua pasangan titik membentuk garis lurus (gravitasi)
2. Hubungan stokastik: (pendapatan berbeda2)
3. Pasangan titik berada di sekitar (tidak tepat pada) garis
4. Adanya unsur random atau stokastik
5. Peubah random atau stokastik mempunyai sebaran peluang tertentu

• Analisis regresi:

1. Adanya kemungkinan peubah lain yang tidak terukur yang juga menjelaskan peubah tak bebas
2. Selain hubungan deterministik yang diasumsikan

• Regresi vs Sebab Akibat

1. Hubungan sebab akibat tidak disimpulkan secara statistik
2. Hubungan sebab akibat harus dibentuk berdasarkan "common sense"
3. Penentuan hubungan sebab akibat secara "apriori"
4. Contoh: Berdasarkan bidang ilmu yang bersesuaian
5. Produksi dipengaruhi oleh curah hujan, bukan sebaliknya
6. Tinggi tubuh anak laki-laki dipengaruhi oleh umur, bukan sebaliknya
7. Konsumsi dipengaruhi oleh pendapatan, bukan sebaliknya

• Regresi vs Korelasi

1. Regresi:
2. Melibatkan unsur sebab akibat antara dua peubah (atau lebih)
3. Peubah tak bebas dan peubah penjelas
4. Korelasi
5. Hanya hubungan keeratan antar peubah
6. Tanpa unsur sebab akibat

Dalam menganalisis hal-hal yang berkaitan dengan ekonomi, memerlukan tipe-tipe data seperti:

                                                    Time Series Data

1. Sekumpulan pengamatan yang diamati pada satu/beberapa peubah pada waktu yang berbeda (Yt)
2. Data harian: harga saham, ramalan cuaca
3. Data mingguan: supply uang
4. Data bulanan: tingkat pengangguran, Consumer Price Index (CPI)
5. Data tiga bulanan (quarterly): GDP (pendapatan nasional)
6. Data tahunan: anggaran pemerintah 
7. Hubungan stasioner mendasari analisis data time series

                                                     Cross Section Data

• Hasil pengamatan pada satu atau beberapa peubah yang diperoleh pada satu waktu untuk beberapa individu (orang/negara/perusahan)
• Contoh:

Produksi telur (Y1i) dan harga telur (X1i) untuk 50 negara bagian di US pada tahun 1990, i =1, ..., 50