Begitu kita melewati pintu masuk, terpajang sebuah koleksi batu berukir. Batu tersebut begitu berharga. Namanya makara. Umumnya hiasan tersebut berbentuk ikan berkepala gajah. Pada zaman dulu makara dimaksudkan sebagai penolak bala. Hiasan seperti itu sering dijumpai pada bangunan candi, khususnya pada pipi tangga, gapura, pintu, relung, dan pancuran air.
Boleh dibilang makara adalah maskot Museum Negeri Provinsi Sumatera Utara. Museum itu diresmikan pada 19 April 1982. Namun peletakan koleksi pertama dilakukan oleh Presiden Soekarno pada 1954 berupa makara. Mungkin menjadi satu-satunya museum di Sumatera yang diluncurkan oleh seorang presiden. Â Seperti halnya Museum Nasional di Jakarta, Museum Negeri Provinsi Sumatera Utara juga dikenal sebagai Gedung Arca.
Bangunan museum berdiri di atas lahan seluas 10.468 meter persegi, terdiri atas bangunan induk dua lantai. Secara arsitektur, bentuk bangunan induk museum menggambarkan rumah tradisional daerah Sumatera Utara. Pada bagian atap depan dipenuhi dengan ornamen dari etnis Melayu, Batak Toba, Simalungun, Karo, Mandailing, Pakpak, dan Nias.
Berdasarkan koleksi yang dimiliki, Museum Negeri Provinsi Sumatera Utara dikategorikan sebagai museum umum. Sebagian besar koleksinya berasal dari daerah Sumatera Utara berupa benda-benda peninggalan sejarah budaya. Koleksi tertua berasal dari masa prasejarah. Di sini pengunjung dapat melihat replika fosil manusia purba, diorama kehidupan prasejarah, dan perkakas prasejarah.
Selanjutnya ditampilkan jejak peradaban awal kebudayaan Sumatera Utara kuno. Koleksinya meliputi  temuan budaya megalitik (mega = besar, litik = batu), seperti peti mati dari batu (sarkofagus), benda-benda religi berupa patung batu dan kayu, tongkat perdukunan, wadah obat dari gading, serta koleksi naskah Batak Kuno yang ditulis pada kulit kayu yang disebut Pustaha Laklak.
Koleksi yang berjumlah cukup banyak berasal dari masa peradaban Hindu dan Buddha yang ditemukan pada situs-situs arkeologi di Sumatera Utara. Misalnya arca batu dan arca perunggu yang berasal dari situs percandian Padang Lawas sekitar abad ke-8 hingga ke-14.
Koleksi lain berupa arca Buddha dan arca dewi  dari Kota Cina. Terpajang juga arca yang kondisinya sudah patah. Namun dari ciri-ciri yang ada, arkeolog yang mendalami ikonografi bisa tahu itu arca siapa.
Ruang Masa Islam menampilkan berbagai artefak seperti replika batu nisan dari makam Islam yang ditemukan di daerah Barus serta nisan peninggalan Islam yang bercorak khas Batak, dan beberapa naskah Islam tua yang ditulis tangan. Â
Sebelum Pemerintah Hindia Belanda masuk dan memerintah di wilayah Sumatera, para pengusaha dari Eropa khususnya Jerman telah datang dan membuka perkebunan di Sumatera. Kegiatan perkebunan melahirkan Medan sebagai kota multikultur yang kaya, unik, dan menarik. Koleksi yang ditampilkan meliputi komoditas perdagangan kolonial, alat-alat, dan mata uang perkebunan, foto-foto bersejarah yang langka, model figur kolonial, serta replika dari kehidupan kota Medan tempo dulu.
