Sekitar lima tahun kemudian (sekitar 396) dia menggantikan uskup setempat. Fungsi gerejawi ini melibatkan tugas-tugas pastoral, politik, administratif, dan yuridis baru, dan tanggung jawab dan pengalamannya dengan sidang Kristen biasa mungkin telah berkontribusi untuk mengubah pandangannya tentang rahmat dan dosa asal Tetapi keterampilan retorikanya memperlengkapi dia dengan baik untuk khotbahnya sehari-hari dan untuk perselisihan agama.
Sepanjang hidupnya sebagai uskup ia terlibat dalam kontroversi agama dengan orang-orang Maniche, Donatis, Pelagian, dan, pada tingkat lebih rendah, orang-orang kafir. Sebagian besar dari banyak buku dan surat yang ia tulis pada periode itu adalah bagian dari kontroversi ini atau paling tidak diilhami oleh mereka, dan bahkan yang tidak (De Genesi ad litteram, De trinitate ) menggabungkan pengajaran filosofis atau teologis dengan bujukan retorika.
Polemik terhadap mantan rekan seagama, Manichean, tampak besar dalam karyanya hingga sekitar 400; perdebatan dengan mereka membantu membentuk ide-idenya tentang non-substansialitas kejahatan dan tanggung jawab manusia.Â
Perpecahan Donatis berakar pada penganiayaan besar terakhir pada awal abad keempat. Kaum Donatis melihat diri mereka sebagai penerus sah dari mereka yang tetap teguh selama penganiayaan dan mengklaim mewakili tradisi Afrika "gereja orang suci" Kristen. Sejak 405 kaum Donatis dimasukkan di bawah hukum kekaisaran terhadap bidat dan dipaksa untuk masuk kembali ke gereja Katolik dengan cara legal; langkah-langkah ini diintensifkan setelah konferensi di Carthage (411) telah menandai akhir resmi Donatisme di Afrika
Melalui tulisannya yang tekun terhadap kaum Donatis, Agustinus mempertajam gagasan eklesiologisnya dan mengembangkan teori paksaan agama berdasarkan pemahaman yang disengaja tentang cinta Kristen.Â
Pelagianisme (dinamai menurut nama pertapa Inggris Pelagius) adalah suatu gerakan yang disadari oleh Agustinus sekitar tahun 412. Dia dan sesama uskupnya di Afrika berhasil membuatnya dikutuk sebagai bidat pada tahun 418. Meskipun tidak menyangkal pentingnya rahmat ilahi, Pelagius dan para pengikutnya bersikeras  manusia pada dasarnya bebas dan tidak dapat berbuat dosa ( kemungkinan ).
Terhadap pandangan ini, Agustinus dengan gigih mempertahankan doktrinnya tentang ketergantungan radikal manusia pada rahmat, sebuah keyakinan yang sudah disuarakan dalam Pengakuan tetapi disempurnakan dan diperketat selama kontroversi.Â
Dekade terakhir kehidupan Agustinus ditandai oleh debat tajam dengan mantan uskup Pelagianis, Julian dari Aeclanum, yang menuduh Augustine melakukan crypto-Manicheism dan menyangkal kehendak bebas sementara Augustine menyalahkannya dan para Pelagianis karena mengevakuasi pengorbanan Kristus dengan menolak dosa asal
Kontroversi dengan tradisionalis kafir tampaknya telah mencapai puncaknya setelah 400, ketika Augustine membantah serangkaian keberatan terhadap agama Kristen yang tampaknya diambil dari risalah Porphyry Against the Christians ( Surat 102; Bochet 2011), dan setelah 410, ketika kota Roma dipecat. oleh Alaric dan Goth-nya.Â
Kota Allah , permintaan maaf agung Agustinus, didorong oleh peristiwa simbolis ini, meskipun itu sama sekali bukan sekadar respons terhadap polemik kafir. Kehidupan Augustine berakhir ketika Vandal mengepung Hippo
Augustine penting bagi kita yang bukan Kristen dewasa ini karena apa yang ia kritik tentang Roma, nilai-nilainya dan pandangannya - dan karena Roma memiliki begitu banyak kesamaan dengan Barat modern, terutama Amerika Serikat, yang begitu memuja Kekaisaran sehingga ia menginginkannya. ibu kota di Potomac agar terlihat seolah-olah mungkin telah diangkut secara ajaib dari tepi Sungai Tiber.