Novel ini menceritakan sosok Hamid, seorang anak yatim dan miskin, sehingga ia tinggal bersama sang ibu di kota Padang. Sejak usia 4 tahun ia sudah ditinggal pergi oleh ayahnnya. Untuk memenuhi kebutuhan sehari-hari dan membantu ibunya, ia membantu ibunya berjualan pisang goreng dengan berkeliling antar rumah warga.
Keadaan berubah saat saudagar kaya raya menempati rumah baru di dekat rumahnya dan membeli pisang goreng jualannya itu. Keluarga kaya itu adalah Haji Ja'far dan istrinya bernama Mak Asiah beserta putri tunggal mereka bernama Zainab. Keluarga Ja'far merasa iba terhadap keadaan Hamid dan ibunya. Sehingga pada akhirnya istri Jaf'ar membantu Hamid untuk menyekolahkan bersama putrinya itu Zainab yang sudah menganggap sebagai adiknya sendiri oleh Hamid dan menanggung seluruh biaya sekolahnya sampai selesai.
Hamid dan Zainab bersekolah di tempat yang sama yaitu sekolah Hollands Inlandsche School (HIS) sampai Sekolah Menengah Meer Uitgebreid Lager Onderwijs (MULO). Karena seringnya menghabiskan waktu maka timbul asmara antara keduanya yang tidak kunjung diungkapkan sampai mereka berpisah. Setelah lulus dari MULO, Hamid menyadari bahwa ia mencintai Zainab, begitu pula sebaliknya. Namun, keduanya saling menyimpan perasaan itu karena mereka berdua menyadari bahwa adanya setidak derajat dalam hal keluarga. Hari berlalu, kebersamaan antara Hamid dan Zainab berkurang karena Hamid melanjutkan pendidikannya di Padang Panjang dan Zainab akan melaksanakan pingit yaitu memasuki masa pingitan atau berdiam diri dalam rumah yang akan memasuki usia untuk menikah.
Hingga pada suatu hari, Haji Jaf'ar dikabarkan meninggal dunia. Hamid dan ibunya pun tak sering lagi mengunjungi rumah almarhum. Dikarenakan sang ibu yang sudah sakit parah dan tak lama ibu Hamid menyusul Haji Jaf'ar menuju surga. Hari demi hari, Hamid merasa terpukul dan lelah dengan semua ini, kini ia hidup sendirian. Pada suatu hari, Mak Asiah meminta Hamid untuk membujuk Zainab agar menikah dengan kerabat jauhnya dari sang ayah Jaf'ar.
Sejak itu, Hamid meninggalkan kampung halaman dam memutuskan meninggalkan Padang dan pindah ke Medan dan melanjutkan untuk merantau hingga ke Kota Mekkah. Di sana ia bermukim sampai berbulan-bulan sebelum masuknya musim Haji. Di Mekkah, Hamid fokus pada ibadahnya dan berusaha untuk melupakan Zainab dalam pikirannya. Hingga satu tahun lamanya Hamid di Tanah Suci, ia kedatangan tamu yaitu Saleh, suami dari Rosna, sahabat karib Zainab. Saleh menceritakan mengenai Zainab dan kabar bahwa Zainab tidak jadi menikah dengan kerabat jauh pilihan ibunya itu, karena Zainab mencintai Hamid. Seketika itu muncullah dipikiran Hamid bahwa ia mengenang kembali kebersamaannya dengan Zainab. Namun, ia tidak bisa menyuratinya lagi karena keduanya saling hilang kabar. Suatu ketika saat Hamid sedang mengerjakan tawaf, datang surat untuk Saleh dari Rosna, istrinya. Hamid yang saat itu berada di tandu karena sakit dan lemah badannya ia tidak dapat mengerjakan tawaf sendirian, ia bertanya pada Saleh, surat apakah itu? namun Saleh tidak memberi jawaban sedikitpun dan bertanya-tanyalah Hamid terhadap perubahan pada mimik wajahnya dan dengan gugup Saleh mengatakan bahwa Zainab telah meninggal dunia. Tak lama setelah selesai tawaf dan berdoa, Hamid menghembuskan nafas terakhirnya di bawah lindungan ka'bah dan pada hari itu jenazahnya di makamkan di penguburan  Ma'al yang Mahsyur.
