Melihat belum adanya masjid kerajaan Raja Abdul Rahman mengambil kebijakan untuk membangun masjid baru di atas reruntuhan bekas masjid lama yang dibangun Sultan Mahmud Riayat Syah.Â
Untuk mendapatkan biaya pembangunan Raja Abdul Rahman ingin memungut sumbangan dari rakyat tetapi dilarang oleh Raja Ali Kelana yang berada di Riau.Â
Kabarnya sekitar tiga ribu ringgit Raja Ali Kelana memberi uang kepada Raja Abdul Rahman untuk biaya pembangunan. Raja Ali Kelana juga menyumbangkan batu bata yang berasal dari pabrik miliknya yang berada di Pulau Batam.Â
Dana lainnya berasal dari Raja Abdul Rahman dan uang kas kerajaan di Lingga. Seorang saudagar kaya dari Kampung Gelam di Daik juga turut menyumbangkan sejumlah uang.
Masyarakat Daik laki-laki dan perempuan pada masa itu turut juga berpartisipasi bergotong-royong mengambil batu dan pasir di sungai sekitar untuk bahan bangunan. Kaum perempuan di malam hari mengisi pasir dan batu untuk bahan bangunan lantai.Â
Sebagian bahan bangunan diambil dari bekas masjid rusak yang dibangun Sultan Abdul Rahman Mu'azzam Syah. Bahan bangunan yang diambil antara lain seperti pagar besi yang dipasang di ruang depan masjid, dan lantai marmer.Â
Haji Abdul Wahab Imam Masjid Jamik Sultan Lingga tahun 1917 pernah berkirim surat kepada Tengku Abu Bakar menerangkan batu marmer yang dipasang di masjid diambil dari masjid yang rusak.Â
Haji Abdul Wahab pernah diminta Raja Abdul Rahman untuk bertanya kepada Syaikh Abdul Hamid mengenai apakah boleh menjual batu bangunan yang berasal dari masjid rusak.Â
Menurut pendapat Syaikh Abdul Hamid tidak boleh dijual karena khawatir tidak diperuntukkan untuk masjid. Selain itu khawatir dijual kepada orang kafir.