Al Ula adalah ibu kota Lihyanites Kuno (Dedanites), dan tercatat dalam sejarah umat Islam sebagai kota yang paling dihindari oleh Nabi Muhammad, lokasi Al Ula berada di Jalur Dupa (Incense Road), yang merupakan rute perdagangan penting yang menghubungkan Arab, Mesir, dan India.
Kota Al-'Ula ini menjadi gerbang situs bersejarah Madain Saleh yang merupakan peninggalan peradaban rakyat Nabi Saleh AS yang bernama kaum Tsamud Al-Hijr. Hal ini juga telah disampaikan dalam Al-Qur'an. Dalam Ensiklopedia Islam, kata tsamud adalah nama dari suatu kaum, sedangkan kata al-Hijr adalah salah satu diantara beberapa kota yang dibangun oleh orang tersebut.
Dalam suatu riwayat diceritakan bahwa semasa hidupnya, Nabi Muhammad selalu mempercepat langkahnya ketika melewati Kota Al Ula. Bahkan saat berjalan melewatinya, Nabi Muhammad tidak menoleh ke kanan atau kiri. Selain itu, Ibnu Battutah pernah melewati kota ini dan mencatat bahwa ada rombongan karavan yang bersamanya enggan untuk berhenti di Al Ula. Keengganan untuk berhenti konon dikaitkan dengan Al Ula yang disebut kota hantu atau kota jin yang terkutuk. Masyarakat Arab kuno menyebut Al Ula sebagai markas jin yang harus dijauhi karena kaum Nabatean menolak meninggalkan kepercayaan mereka. Mereka disebut tidak menyembah Tuhan, tetapi menyembah dewa-dewi. Di Madain Saleh juga terdapat situs Jabal Ithlib, yang dipercaya sebagai tempat suci bagi kaum Nabatean.
Nabi Muhammad SAW pernah singgah di tempat ini saat sedang menempuh perjalanan ke Tabuk. Akan tetapi, Nabi Muhammad SAW tidak ingin meminum air dari kota ini dan ingin segera pergi. Bahkan, beliau sering mempercepat langkah dan tidak menoleh ke kanan atau kiri saat sedang melintasi kota tersebut. Konon, perlakuan ini disebabkan oleh azab yang pernah menimpah Kota Al-Ula. Dalam mitologi Arab sendiri, Al Ula dianggap sebagai daerah berhantu yang dihuni oleh bangsa jin dan roh jahat. Stigma ini melekat pada Al-Ula karena berkaitan dengan kisah kaum Tsamud.
Kaum Tsamud merupakan kaum Nabi Saleh AS yang dianggap menentang dan enggan menyembah Allah SWT. Kaum Tsamud juga meminta Nabi Saleh AS untuk mendatangkan azab, yang akhirnya dikabulkan oleh All
ah SWT.