Sebagai seorang Khalifah pertama Abu Bakar As-shiddiq merupakan sosok yang cermat terutama dalam melakukan diplomasi, negosiasi, perundingan dan menyelesaikan sengketa, salah satunya adalah ketika terjadi permasalahan antara Bani Anshor dan Muhajirin tentang siapa yang lebih berhak memegang tonggak kepemimpinan Islam pasca wafatnya Rasulullah, perselisihan semakin memanas di saat Bani Anshar secara pihak menunjuk Sa'ad Bin Ubaidah untuk menjadi pengganti Rasulullah memimpin Umat Islam dengan melihat posisi mereka yang memberikan pertolongan kepada Rasul tanpa pamrih. Sedangkan Kaum Maujahirin yang merupakan keturunan Qurasiy sudah merupakan adat dan prinsip mereka untuk menolak pemimpin yang bukan berasal dari suku Quraisy . Umat Islam harus dipimpin satu orang tanpa ada perpecahan antar satu dengan yang lainnya, padahal saat itu jenazah Rasulullah belum dikebumingkan.
Untuk menyelesaikan perselisihan tersebut maka datanglah tiga orang sahabat Rasul yaitu Abu Bakar, Umar bin Khattab dan Abu Ubaidah menuju balai pertemuan Bani saadah tempat terjadinya musyawarah kaum Anshar. Dikala ketiga sahabat sudah sampai ke tempat Bani Anshar telah sampai kepada kesepakatan untuk menunjuk Saad dari Bani Kharaj menjadi pemimpin. Dengan kefasihannya dalam berbicara Abu Bakar mewakili tiga sahabat tersebut untuk merundingkan dan menyadarkan Bani Anshar mengenai keadaan sosial yang sedang terjadi. Saat ini dimana orang-orang arab Muhajirin secara pasti menolak pemimpin selain dari keturunan Quraisy. Abu Bakar juga menyampaikan rasa gembira dan hormatnya terhadap dedikasi dan pengabdian yang selama ini Bani Anshar lakukan untuk perjuangan dakwah Islam.
Di akhir negosiasi dan perundingan Abu Bakar menyatakan bagaimana derajat kaum Anshar yang berada tepat setelah para Sahabat Rasul yang lebih dahulu memasuki Islam dan mengusulkan walaupaun posisi Amir dipegang kaum Muhajirin. Namun kedudukan Wazir juga berasal dari kaum Anshar agar setiap keputusan dan kesepakatan dapat tercapai melalui konsultasi antara kedua belah pihak.
Hal ini mendapatkan sambutan baik dari dua pimpinan Bani Anshar zaid bin Tsabbit dan Basyir bin Sa'ad dengan menghimbau kepada seluruh umat muslim yang hadir kala itu untuk menyudahi perselisihan. Akhirnya yang di awal Abu Bakar mengusulkan Umar dan Abu Ubaidah. Justru dia yang diminta Khalifah. Umar menolak untuk menjadi Khalifah dan justru menjelaskan keutamaan Abu Bakar kemudian secara serta merta Umar memegang tangan Abu Bakar dan membaiatnya hal tersebut diikuti oleh Abu Ubaidah. Bahkan sebelum kedua sahabat tersebut melakukan baiat salah satu tokoh kaum Anshar Basyir bin Sa'ad telah terlebih dahulu membaiat Abu Bakar.
Baiat Abu Bakar dilakukan dua kali yaitu Baiat Khassah berteampat di balai pertemuan Bani Sa'idah dan kedua Bani A'mmah di Masjid Nabawi dengan disaksikan Umat Muslim Madinah secara keseluruhan. Peristiwa tersebut memperlihatkan bahwa Abu Bakar merupakan diplomat yang ulung dengan menyelesaikan sengketa antara umat Muslim. Yang memang secara potensial berbahaya karena dapat memecah belah kesatuan Umat Muslim yang harusnya saling bersauadara dengan damai tanpa adanya konflik maupun pertumpahan darah. Bahkan abu Bakar sampai dipercaya untuk memimpin Umat Muslim sebagai Khalifah pertama.
Kepiwiaannya dalam melakukan negosiasi juga terbukti dengan kedamian dan kebebasan Kaum Nasrani Najran dalam melakukan Ibadah dan cukup mambayarkan jizyah sebagai jaminan keamanan Umat Muslim terhadap mereka. Hal inipun juga berdampak dikala Abu Bakar mengaratifikasi dan mengesahkan perjanjian yang ditanda tangani oleh Khalid bin Walid sebagai komandan pasukan Umat Muslim dalam penaklukan Persia. Amar bin Abdul Masih sebagai perwakilan dari penduduk Hira yang dimana perjanjian tidak tejadi atas pemaksaan pemenang namun secara sukarela dilkukan kedua belah pihak, penandatangan ini meruapakan perjanjian pertaama Umat Muslim dnegan Negeri asing yaitu kaum Hira .
