PCA adalah teknik reduksi dimensi yang banyak digunakan dalam preprocessing data. PCA menggunakan dekomposisi nilai singular (SVD) dari matriks kovarians data untuk menemukan komponen utama. Misalnya, untuk matriks data X, kita dapat menghitung matriks kovarians:
C = (1/n) X^T X
Kemudian, kita mencari eigenvector dan eigenvalue dari C untuk mendapatkan komponen utama.
c. Support Vector Machines (SVM)
SVM menggunakan aljabar linear untuk menemukan hyperplane optimal yang memisahkan kelas-kelas dalam ruang fitur. Dalam kasus linear, SVM mencari vektor w dan bias b yang memaksimalkan margin:
y_i(w^T x_i + b) 1
untuk semua data (x_i, y_i).
d. Neural Networks
Jaringan saraf tiruan menggunakan operasi matriks secara ekstensif. Misalnya, pada fully connected layer, output dihitung menggunakan perkalian matriks:
h = (Wx + b)
di mana W adalah matriks bobot, x adalah vektor input, b adalah vektor bias, dan adalah fungsi aktivasi.
4. Penerapan Aljabar Linear dalam Kriptografi
Kriptografi modern menggunakan banyak konsep aljabar linear untuk mengamankan informasi. Beberapa contoh penerapannya meliputi:
a. Hill Cipher
Hill Cipher adalah sistem kriptografi klasik yang menggunakan matriks untuk enkripsi dan dekripsi. Pesan dienkripsi dengan mengalikan blok plaintext dengan matriks kunci: