Sedangkan Rosulullah telah mengajarkan toleransi sejak penyebaran Islam yang ditandai dengan perjanjian Hudaibiyah. Fakta sejarah toleransi juga pernah di praktikkan oleh Nabi Muhammad SAW di Madinah melalui Piagam Madinah. Piagam ini adalah contoh mengenai prinsip kemerdekaan beragama yang menjelaskan bahwa toleransi beragama adalah sikap saling menghormati diantara yang ada, tidak menyakiti serta melindungi anggota yang terikat dalam Piagam Madinah. Di dalamnya secara jelas dinyatakan bahwa umat Yahudi dan yang lainnya adalah umat yang satu dengan kaum muslim. Mereka akan diperlakukan secara baik dan adil serta dijamin hak-haknya. Sehingga tidak melakukan kejahatan dan penghianatan.