Kemudian, Hasyim Asy'ari mulai menimba ilmu ke Pesantren lain, di antaranya Pesantren Wonokojo di Probolinggo, Pelangitan, dan juga Bangkalan.
Selanjutnya, Hasyim Asy'ari menjadi santri di Pesantren Siwalan Sidorejo, di bawah pimpinan Kyai Ya'kub. Beliau menetap di sini selama 5 tahun.Â
Karena keunggulan akhlak dan prestasi intelektualnya, Hasyim Asy'ari dijadikan menantu oleh Kyai Ya'kub, dinikahkan dengan putrinya yang bernama Khadijah.Â
Bersama istri dan mertuanya, beliau pergi ke Mekah untuk meneruskan kajian keislamannya. Beliau tinggal selama setahun, tapi karena istri dan anaknya meninggal, beliau kembali ke Jawa bersama mertuanya.Â
Namun 3 bulan kemudian, beliau kembali ke Mekah bersama saudara iparnya, Muhammad Alwi.Â
Di sini, beliau tinggal selama 7 tahun dan menimba banyak ilmu dari Syekh Muhammad Nawawi, Syekh Mahfuz Termas, dan Syekh Ahmad Khatib Minangkabau.Â
Guru-guru itu dipengaruhi oleh gerakan pembaharuan Muhammad Abduh di Mesir, sehingga mempengaruhi pula Hasyim Asy'ari. Tetapi beliau juga tetap berpegang pada tradisi masa lalu yang diajarkan oleh guru-gurunya di tanah air.Â
Setelahnya pada tahun 1899 beliau kembali ke Jawa dan menikah lagi.Â
Istri-istri beliau di antaranya:
- Nafisah, Puteri Kyai Romli dari Kemiringan, Kediri.Â
- Nafiqah, Puteri Kyai Ilyas dari Sewulan, Madiun.Â
- Masrurah, Puteri saudara Kyai Ilyas, pimpinan Pesantren Kapurejo Kediri.Â