Jauh sebelum agama masuk ke Nusantara, penduduk wilayah Sumatera Utara memiliki kepercayaannya sendiri. Kepercayaan pada alam, dewa-dewa, mahluk non manusia, dan arwah para leluhur. Hal ini terbukti dari banyaknya peninggalan sejarah yang tersimpan di Ruang Religi Kuno berupa arca dan naskah mantra-mantra kuno.Â
Setiap arca dan mantra tersebut memiliki kegunaan yang berbeda-beda. Contohnya Arca (Adu) Faomo yang menggambarkan sepasang suami istri ini merupakan bagian dari religi Nias Kuno, disembah untuk memohon kedamaian dan ketentraman dalam rumah tangga. Ada lagi Adu Leluhur Nias yang merepresentasikan sebagai perempuan atau ibu. Arca ini dianggap sebagai lambang pengasih dan penyayang.
Naskah Pustaka Laklak yang ditulis dengan aksara dan bahasa Batak Kuno ini juga memiliki fungsi yang beragam. Seperti Tabas, merupakan mantra yang berisi ramuan untuk membinasakan orang yang dibenci. Ada pula Pagar, mantra yang digunakan sebagai pegangan bagi orang yang dihina. Selain itu juga ada Pustaka Laklak yang berisi tentang hari baik dan hari jahat dipakai untuk menetapkan tanggal pelaksanaan upacara.Â
Masa Kerajaan Hindu-Buddha
Sejak dulu Sumatera Utara menjadi pusat niaga yang dikunjungi para pedagang dari berbagai belahan dunia. Pedangang-pedagang datang membawa kebudayaan dan menyebarkan Agama Hindu-Budha. Banyak sekali arca, candi-candi, dan prasasti yang ditemukan di Kabupaten Padang Lawas. Salah satunya adalah Prasasti Panai/Pane. Prasasti ini menggunakan Aksara Jawa Kuno dan Bahasa Melayu Kuno. Sayangnya sebagian kata-katanya masih belum dapat diterjemahkan.Â
Selain arca dan prasasti, banyak juga temuan dari Situs Kota Cina di Medan. Beragam artefak seperti manik-manik, bang logam, tembikar, dan keramik-keramik China.
Islam di Sumatera Utara
Penyebaran Islam di Sumatera Utara sebenarnya belum diketahui secara pasti kapan dan dimana awalnya. Namun, eksistensi Islam di Pesisir Timur ditandai dengan berdirinya kesultanan-kesultanan Melayu seperti di Langkat, Deli, Bedagai, dsb.