Naive Bayes Classifier adalah metode klasifikasi yang didasarkan pada Teorema Bayes. Metode ini menggunakan probabilitas dan statistik yang diajukan oleh ilmuwan Inggris Thomas Bayes, yang memungkinkan untuk memprediksi kemungkinan di masa depan berdasarkan pengalaman di masa sebelumnya. Karakteristik utama dari Naive Bayes Classifier adalah asumsi yang sangat kuat (naif) akan independensi dari setiap kondisi atau kejadian. Keunggulan utama dari metode ini adalah kemampuannya untuk melakukan klasifikasi dengan hanya memerlukan sedikit data pelatihan (training data) untuk mengevaluasi parameter-parameter yang diperlukan dalam proses klasifikasi.
Tahapan proses Naive Bayes
1. Menghitung jumlah kelas / label
2. Menghitung Jumlah Kasus Per Kelas
3. Kalikan Semua Variable Kelas
4. Bandingkan Hasil Per Kelas
Pada Teorema Bayes, bila terdapat dua kejadian yang terpisah (misalkan X dan H), maka Teorema Bayes dirumuskan sebagai berikut [6]:
Keterangan :
a. X : Data dengan class yang belum diketahui
b. H : Hipotesis data merupakan suatu class spesifik
c. P(H|X) : Probabilitas hipotesis H berdasar kondisi X (posteriori probabilitas)