Di dalam suatu struktur organisasi yang baru berdiri, biasanya masih bersifat sederhana, dengan kekuasaan manajer puncak yang menyeluruh dan sentralistik. Setiap pengambilan keputusan dilakukan oleh manajer puncak. Pada kondisi organisasi seperti ini, manajer masih memiliki rentang pengendalian yang terbatas ruang lingkupnya. Setiap aktivitas pengendalian dilakukan sendiri oleh manajer puncak. Tetapi seiring berkembangnya perusahaan, aktivitasnya semakin bertambah, manajemen puncak tidak memiliki cukup perhatian terhadap hal-hal yang bersifat rutinitas sehingga perlu untuk memberikan sebagian wewenang kepada manajer di bawahnya agar perusahaan dapat beroperasi dengan lancar. Pemberian wewenang kepada manajer di bawahnya dinamakan desentralisasi.
Desentralisasi akan berdampak pada keseluruhan sistem dan struktur organisasi, termasuk sistem akuntansi pertanggungjawaban yang berlaku. Dalam sistem organisasi yang terdesentralisasi dikenal adanya pusat-pusat pertanggungjawaban yaitu suatu segmen bisnis yang berada dalam suatu perusahaan yang dipimpin oleh seorang manajer dan diukur kinerjanya. Terdapat empat tipe pusat pertanggungjawaban, kinerja masing-masingnya membutuhkan akuntabilitas yang jelas dari setiap aktivitas yang dilakukan. Akuntabilitas tersebut mengimplikasikan adanya pengukuran kinerja dari tiap-tiap pusat pertanggungjawaban. Ini berarti apa yang telah dicapai oleh masing-masing pusat pertanggungjawaban secara aktual dibandingkan dengan apa yang direncanakan atau dianggarkan. Manajer harus bertanggungjawab atas pencapaian kinerja yang baik dari pusat pertanggungjawaban yang dipimpinnya.