Selama pemerintahan kolonial berkuasa di Indonesia terjadi dualisme sistem birokrasi pemerintahan. Di satu sisi telah mulai diperkenalkan dan diberlakukan sistem adminkistrasi kolonial (Binnenlandsche Bestuur) yang mengenalkan sistem birokrasi dan administrasi modern, sedangkan pada sisi lain, sistem administrasi tradisional (Inheemsche Bestuur) masih tetap dipertahankan oleh pemerintah kolonial. Birokrasi pemerintahan kolonial disusun secara hierarki yang puncaknya pada Raja Belanda.Â
Dalam mengimplementasikan kebijakan pemerintahan di negara-negara jajahan, termasuk di Indonesia, Ratu Belanda menyerahkan kepada wakilnya, yakni seorang gubernur jenderal. Kekuasaan dan kewenangan gubernur jenderal meliputi seluruh keputusan politik di wilayah negara jajahan yang dikuasainya. Struktur pemerintahan di negara jajahan menempatkan gubernur jenderal pada posisi yang sangat berkuasa atas segala sesuatu urusan di wilayah jajahan. Gubernur jenderal dalam melaksanakan tugasnya dibantu oleh pada gubernur dan residen. Gubernur merupakan wakil pemerintah pusat yang berkedudukan di Batavia untuk wilayah provinsi, sedangkan di tingkat kabupaten terdapat asisten residen dan pengawas (controleur).
Dalam birokrasi yang sudah berlangsung selama masa penjajahan kolonial Belanda di Indonesia ada beberapa hal yang masih dipertahankan hingga Indonesia merdeka bahkan hingga sekarang ini masih dipakai. Salahsatunya adalah jabatan-jabatan yang ada di Inheemsche Bestuur. Jabatan seperti Bupati hingga sekarang masih dipakai di wilayah di Indonesia. Jika pada zaman kolonial jabatan-jabatan seperti Bupati ini dibolehkan oleh hukum kolonial bisa diturunkan kepada anak Bupati itu sendiri dengan adanya ketentuan minimal pendidikan yang harus ditempuh. Dan tentu saja akibat kebijakan ini kerap menimbulkan penyimpangan yang terjadi pada para pejabat-pejabat ini karena sudah memegang kekuasaan tersebut secara turun-temurun dan sulit untuk digantikan dengan orang lain.
Sedangkan Bupati-bupati pada zaman sekarang semuanya dilakukan pemilihan umum yang semua warga memiliki hak suara untuk memilih siapa yang akan menjabat sebagai bupati di wilayah mereka. Meski begitu pada zaman sekarang masih terdapat semacam politik "dinasti" yang dimana walaupun sudah dilaksanakannya pemilihan umum untuk menduduki jabatan tersebut tetapi yang terpilih tetap berasal dari mereka yang keluarganya berlatar belakang politik ataupun juga yang salahsatu saudara mereka pernah menjabat jabatan itu sebelumnya. Meski memang dalam hukum di Indonesia saat ini tidak melarang adanya anak atau sanak saudara dari para pejabat ini untuk menduduki jabatan yang pernah dipegang oleh keturunan mereka sebelumnya. Namun adanya politik "dinasti" ini tentu saja menimbulkan banyak penyimpangan kekuasaan seperti jual-beli jabatan, korupsi, dan lain sebagainya. Â
Masa Pendudukan Jepang
Pada masa pedudukan Jepang di Indonesia (1942-1945) memiliki pemerintahan bersifat militer berbeda pada masa kolonial Belanda yang memakai suatu pemerintaha sipil. Pada masa pendudukan Jepang ini terdapat tiga pemerintahan militer pendudukan, yatu: Pemerintahan militer Angkatan Darat (Tentara Keduapuluh lima) untuk Sumatera dengan pusatnya di Bukittinggi, Pemerintahan militer Angkatan Darat (Tentara Keenambelas) untuk Jawa-Madura dengan pusatnya di Jakarta, Pemerintahan militer Angkatan Laut (Armada Selatan Kedua) untuk daerah yang meliputi Sulawesi, Kalimantan dan Maluku dengan pusatnya di Makassar.
Sistem pemerintahan ini didasarkan pada Undang-Undang Nomor 1, tanggal 7 Maret 1942 yang menyebutkan:
- Pasal 1: Balatentara Nippon melangsungkan pemerintahan militer sementara waktu di daerah-daerah yang telah ditempati agar supaya mendatangkan keamanan yang sentosa.
- Pasal 2: Pembesar balatentara memegang kekuasaan pemerintahan militer yang tertinggi dan juga segala kekuasaan yang dahulu berada di tangan Gubernur Jenderal Hindia Belanda.
- Pasal 3: Semua badan-badan pemerintah dan kekuasaan hukum dan undangundang dan pemerintah yang dahulu tetap diakui sah untuk sementara waktu, asal saja tidak bertentangan dengan aturan pemerintah militer.
- Pasal 4: Bahwa balatentara Jepang akan menghormati kedudukan dan kekuasaan pegawai-pegawai yang setia pada Jepang
Dari Undang-Undang tersebut, bahwa jabatan Gubernur Jenderal pada masa pemerintahan Hindia Belanda telah dihapuskan dan segala kekuasaan yang dahulu di tangan Gubernur Jenderal sekarang dipegang oleh panglima tentara Jepang yang berada di Jawa.
Dengan Susunan pemerintahan militer Jepang terdiri atas: Gunshireikan (panglima tentara), kemudian disebut Saik Shikikan (panglima tertinggi) merupakan Pimpinannya, di bawah Saik Shikikan terdapat Gunseikan (kepala pemerintah militer) yang dirangkap oleh kepala staf Tentara. Kemudian ada Gunseibu (koordinator pemerintahan militer). Kemudian dibawahnya ada Gunseikanbu (Departemen-Departemen).
Salahsatu badan yang dibentuk pada masa pendudukan Jepang dan masih dipakai hingga sekarang ialah Rukun Tetangga (RT) dan Rukun Warga (RW). Ketika masa penjajahan Jepang Rukun Tetangga dikenal dengan istilah Tonarigumi sedangkan Rukun Warga disebut dengan Azzazyokai.Â