Desentralisasi tidaklah mudah untuk didefinisikan, karena menyangkut berbagai bentuk dan dimensi yang beragam, terutama menyangkut aspek fiskal, politik, perubahan administrasi dan sistem pemerintahan dan pembangunan sosial dan ekonomi. Secara umum, konsep desentralisasi terdiri atas Desentralisasi Politik (Political Decentralization); Desentralisasi Administratif (Administrative Decentralization); Desentralisasi Fiskal (Fiscal Decentralization); dan Desentralisasi Ekonomi (Economic or Market Decentralization).
Sedangkan definisi desentralisasi menurut ketentuan dalam UU Nomor 22 tahun 1999 pasal 1 bahwa : ”Desentralisasi adalah penyerahan wewenang pemerintahan oleh pemerintah kepada Daerah otonom dalam kerangka Negara Kesatuan Republik Indonesia.”
Berbagai argumen yang mendukung desentralisasi antara lain dikemukakan oleh Tiebout (1956), Oates (1972), Tresch (1981), Breton (1996), Weingast (1995), dan sebagaimana dikutip oleh Litvack et al (1998) yang mengatakan bahwa pelayanan publik yang paling efisien seharusnya diselenggarakan oleh wilayah yang memiliki kontrol geografis yang paling minimum, karena :
- Pemerintah lokal sangat menghayati kebutuhan masyarakatnya
- Keputusan pemerintah lokal sangat responsif terhadap kebutuhan masyarakat, sehingga mendorong pemerintah lokal untuk melakukan efisiensi dalam penggunaan dana yang berasal dari masyarakat;
- Persaingan antar daerah dalam memberikan pelayanan kepada masyarakatnya akan mendorong pemerintah lokal untuk meningkatkan inovasinya
Keberhasilan pelaksanaan desentralisasi akan sangat tergantung pada desain, proses implementasi, dukungan politis baik pada tingkat pengambilan keputusan di masing-masing tingkat pemerintahan, maupun masyarakat secara keseluruhan, kesiapan administrasi pemerintahan, pengembangan kelembagaan dan sumber daya manusia, mekanisme koordinasi untuk meningkatkan kinerja aparat birokrasi, perubahan sistem nilai dan perilaku birokrasi dalam memenuhi keinginan masyarakat khususnya dalam pelayanan sektor publik.