Abdurrahman bin Habib sendiri merupakan keturunan Uqbah bin Nafi', sang penakluk Maghrib yang pertama. Ia tak lain adalah sepupu dari Yusuf bin Abdurrahman Al-Fihri yang merupakan pemimpin Andalusia. Ia sendiri sangat ingin menguasai Andalusia juga, karena Andalusia mengikut kepada Maghrib. Kemunculan Abdurrahman bin Muawiyah sudah pasti akan menghalanginya untuk mewujudkan obsesi itu.
Abdurrahman bin Habib, penguasa Qairuwan dan pemimpin resmi kawasan Afrika Utara serta sepupu pemimpin Andalusia, Yusuf Al-Fihri, mengetahui bahwa Abdurrahman bin Muawiyah pasti akan menuntut hak kekuasaan para pendahulunya, para khalifah. Kawasan ini tidak lain adalah negeri dahulu mereka taklukkan, kuasai, dan pimpin dengan Islam.
Abdurrahman merasa tinggal di Afrika tidaklah ideal. Ia mempertimbangkan Andalusia sebagai destinasinya. Kekuasaan Andalusia pada waktu itu dipegang oleh dua orang; Yusuf bin Abdurrahman bin Uqbah bin Nafi' Al-Fihri selaku penguasa resmi (gubernur), dan Shumail bin Hatim sebagai pemegang dan pelaksana riil kekuasaan. Hubungan di antara keduanya tidak menentu, kadang baik dan kadang buruk.
Untuk itu, Abdurrahman mengutus pelayannya, Badr, berangkat ke sana agar menghubungi orang-orang Umayyah yang bersedia mendukungnya. Di Andalusia, Badr bertemu dengan dua orang lelaki, Abu Utsman Ubaidullah bin Utsman dan Abdullah bin Khalid. Kepada keduanya, Badr mengutarakan keinginan Abdurrahman, juga keberadaannya di Afrika yang tengah mencari dukungan untuk merebut kembali kekuasaan. Setelah Badr mengatakan semuanya, keduanya langsung menyatakan dukungan dan mulai menghimpun para pengikut yang kian hari kian bertambah.
Berita perihal Abdurrahman bin Muawiyah di wilayah selatan Andalusia semakin tersiar luas. Badr pun mengutus seseorang ke Afrika untuk menemui Abdurrahman bin Muawiyah, dan menceritakan apa yang terjadi di Andalusia. Abdurrahman akhirnya menyiapkan bekal dan perahu yang akan membawanya ke Andalusia.
Memasuki Andalusia
Pada tahun 138 H, Abdurrahman bin Muawiyah pergi meninggalkan Afrika menuju Andalusia. Ia tiba di Elvira dan langsung didatangi para pendukungnya. Ia disambut oleh pelayannya, Badr. Maka mulailah ia mengumpulkan para pendukungnya, para pencinta Bani Umayyah, kabilah Berber dan beberapa kabilah yang menentang Yusuf Al-Fihri. Pada saat yang sama juga sisa-sisa kerabat Bani Umayyah yang melarikan diri ke Andalusia tiba dan bergabung dalam persekutuan yang telah dijalankan bersama orang-orang Yaman.
Ketika itu, yang menjadi tetua dari orang-orang Yaman adalah Abu Shabah Al-Yahshubi, dan pusat perkumpulan mereka adalah di Sevilla. Abdurrahman bin Muawiyah pun pergi sendiri ke Sevilla dan melakukan pertemuan cukup lama bersama Abu Shabah. Tidak lama kemudian Abu Shabah pun membaiatnya. Dengan demikian, Abdurrahman telah menggenggam seluruh wilayah selatan Andalusia dan bersiap menyerang pusat pemerintahan di Cordova.
Sementara itu, Gubernur Andalusia Yusuf Al-Fihri dan Shumail berada di utara. Keduanya sedang berusaha memadamkan gerakan pemberontakan Amir dan anaknya. Al-Fihri pun bersiasat. Ia berjanji akan menjamin keamanan mereka jika bersedia menyerah dan menghentikan pemberontakan. Amir dan anaknya setuju sehingga situasi kembali kondusif. Namun, Al-Fihri berkhianat dan memerintahkan agar kedua pemberontak tersebut dibunuh. Tindakan Al-Fihri ini langsung disambut protes dan kemarahan orang-orang. Hujan deras mengguyur tempat pasukan berada hingga membuat mereka tidak sanggup melindungi diri. Akibatnya ia kehilangan banyak pasukan.
Dalam pandangan Shumail, situasi Andalusia sangat genting. Sementara Alfonso tengah bersiaga di utara dan Bani Umayyah mulai mengancam di selatan. Atas dasar ini, Shumail memutuskan untuk beraliansi dengan Yusuf Al-Fihri dan pergi ke Cordova. Kabar tentang pergerakan Abdurrahman telah sampai ke telinga Al-Fihri dan Shumail. Shumail mengusulkan agar menghadapinya sekarang juga. Namun, Al-Fihri tidak setuju karena alasan minimnya pasukan dan banyaknya pasukan yang membelot. Al-Fihri lalu menyarankan agar pergi ke Toledo supaya pasukan bisa istirahat dan dipersiapkan lagi. Setelah itu, baru menyerang Abdurrahman.
Abdurrahman bin Muawiyah dan 600 orang pengikut setianya mulai bergerak menuju Rayya, Sidonia, dan Merida. Sementara itu, Shumail dan Al-Fihri telah kembali dari Zaragoza. Keduanya langsung mendapat laporan perihal pergerakan Abdurrahman. Dari Cordova, Al-Fihri dan Shumail juga bergerak untuk menghadang pergerakan Abdurrahman menuju ibu kota. Kedua pasukan akhirnya berhadap-hadapan, dipisahkan oleh sungai. Akhirnya, kedua pihak berlomba-lomba menuju ibu kota terlebih dahulu. Satu pihak ingin memasuki kota dan pihak lainnya menghadang. Kedua pihak kemudian berhenti di Kampung Al-Musharah.