Pemerintahan Khulafaur Rasyidin setelah Wafatnya Rasulullah SAW

Baca juga:

اَلسَّلاَمُ عَلَيْكُمْ وَرَحْمَةُ اللهِ وَبَرَكَاتُه

(Assalamu’alaikum Warahmatullahi Wabarakaatuh)

Puji Syukur Kehadirat Allah Swt, yang Telah Memberikan Rahmat, Taufik dan Hidayah-Nya kepada Kita Semua sehingga Kita Masih Hidup Dapat di Dunia ini, dan Semoga Kita Semua Selalu Mendapat Inayah dan Lindungan dari Allah Swt, Aamiin ...

Shalawat serta Salam kepada Sang Revolusioner Dunia, Junjungan Alam, Nabi Besar Muhammad Saw, yang telah Membimbing Kita dari Zaman Kebodohan Menuju Zaman Penuh dengan Ilmu Pengetahuan Seperti saat ini.

Pada Artikel kali ini kami akan menjelaskan mengenai Pemerintahan Khulafaur Rasyidin setelah Wafatnya Rasulullah SAW, Langsung saja dibawah ini penjelasan Lengkapnya.

A.     KHILAFAH RASYIDIN ABU BAKAR

Dahulu, nama aslinya adalah Abdus Syams. Tetapi, setelah masuk Islam namanya diganti oleh Rasulullah sehingga menjadi Abu Bakar. Gelar Ash- Shiddiq diberikan padanya karena ia adalah orang yang pertama mengakui peristiwa Isra' Mi'raj. Lalu, ia pun diberi gelar Ash- Shiddiq (Orang yang percaya).

Maka ditunjuklah Abu Bakar untuk menggantikannya. Bagi sebagian warga Madinah, ini adalah indikasi bahwa suksesi kepemimpinan Rasulullah SAW diteruskan kepada Abu Bakar. Ketika Rasulullah wafat, sebagian kalangan muslim Anshar dan beberapa orang dari pihak Muhajirin mengadakan pertemuan di Saqifah Bani Sa'idah. Sempat terjadi perselisihan antara kaum Muhajirin dan Anshar. Dan akhirnya, terpilihlah Abu Bakar as-Siddiq sebagai Khalifah pertama.

Khilafah Rasyidin merupakan para pemimpin ummat Islam setelah Nabi Muhammad Shallallahu ‘Alaihi wasallam wafat, yaitu pada masa pemerintahan Abu Bakar, Umar bin Khattab, Utsman bin Affan dan Ali bin Abi Thalib, Radhiallahu Ta’ala anhu ajma’in dimana sistem pemerintahan yang diterapkan adalah pemerintahan yang islami karena berundang-undangkan dengan Al-Qur’an dan As-Sunnah.

Nabi Muhammad Shallallahu ‘Alaihi wasallam tidak meninggalkan wasiat tentang siapa yang akan menggantikan beliau Shallallahu ‘Alaihi wasallam sebagai pemimpin politik umat Islam setelah beliau Shallallahu ‘Alaihi wasallam wafat. Ia Shallallahu ‘Alaihi wasallam nampaknya menyerahkan persoalan tersebut kepada kaum muslimin sendiri untuk menentukannya. Karena itulah, tidak lama setelah beliau Shallallahu ‘Alaihi wasallam wafat; belum lagi jenazahnya dimakamkan, sejumlah tokoh Muhajirin dan Anshar berkumpul di balai kota Bani Sa'idah, Madinah. Mereka memusyawarahkan siapa yang akan dipilih menjadi pemimpin. Musyawarah itu berjalan cukup alot karena masing-masing pihak, baik Muhajirin maupun Anshar, sama-sama merasa berhak menjadi pemimpin umat Islam. Namun, dengan semangat ukhuwah Islamiyah yang tinggi, akhirnya, Abu Bakar Radhiallahu ‘anhu terpilih.

Sebagai pemimpin umat Islam setelah Rasul, Abu Bakar Radhiallahu ‘anhu disebut Khalifah Rasulullah (Pengganti Rasul Allah) yang dalam perkembangan selanjutnya disebut khalifah saja.

Abu Bakar Radhiallahu ‘anhu menjadi khalifah hanya dua tahun. Pada tahun 634 M ia meninggal dunia. Masa sesingkat itu habis untuk menyelesaikan persoalan dalam negeri terutama tantangan yang disebabkan oleh suku-suku bangsa Arab yang tidak mau tunduk lagi kepada pemerintah Madinah sepeninggal Rasulullah Shallallahu ‘Alaihi wasallam. Mereka menganggap bahwa perjanjian yang dibuat dengan Nabi Muhammad Shallallahu ‘Alaihi wasallam, dengan sendirinya batal setelah Nabi Shallallahu ‘Alaihi wasallam wafat. Karena itu mereka menentang Abu Bakar Radhiallahu ‘anhu. Karena sikap keras kepala dan penentangan mereka yang dapat membahayakan agama dan pemerintahan, Abu Bakar Radhiallahu ‘anhu menyelesaikan persoalan ini dengan apa yang disebut Perang Riddah (perang melawan kemurtadan). Khalid ibn Al-Walid Radhiallahu ‘anhu adalah panglima yang banyak berjasa dalam Perang Riddah ini.

Nampaknya, kekuasaan yang dijalankan pada masa Khalifah Abu Bakar Radhiallahu ‘anhu, sebagaimana pada masa Rasulullah Shallallahu ‘Alaihi wasallam, bersifat sentral; kekuasaan legislatif, eksekutif dan yudikatif terpusat di tangan khalifah. Selain menjalankan roda pemerintahan, Khalifah juga melaksanakan hukum yang telah ditetapkan dalam Al-Qur’an dan As-Sunnah. Meskipun demikian, seperti juga Nabi Muhammad Shallallahu ‘Alaihi wasallam, Abu Bakar Radhiallahu ‘anhu selalu mengajak sahabat-sahabat nya bermusyawarah sebelum mengambil keputusan mengenai sesuatu,yang berfungsi sebagai lembaga legislatif pemerintahannya.

Setelah menyelesaikan urusan perang dalam negeri, barulah Abu Bakar Radhiallahu ‘anhu mengirim kekuatan ke luar Arabia. Khalid ibn Walid Radhiallahu ‘anhu dikirim ke Iraq dan dapat menguasai wilayah al-Hirah di tahun 634 M. Ke Syria dikirim ekspedisi di bawah pimpinan empat panglima yaitu Abu Ubaidah ibnul Jarrah, Amr ibnul 'Ash, Yazid ibn Abi Sufyan dan Syurahbil Radhiallahu Ta’ala anhu ajma’in.

Keputusan-keputusan yang dibuat oleh khalifah Abu Bakar untuk membentuk beberapa pasukan tersebut,dari segi tata negar, menunjukkan bahwa ia juga memegang jabatan panglima tertinggi tentara islam.hal ini seperti juga berliku di zaman modern ini di mana seorang kepala negara atau presiden juga sekaligus sebagai pangima tertinggi angkatan bersenjata.

Adapun urusan pemerintahan diluar kota madinah,khalifah Abu Bakarmembagi wilayah kekuasaan hukum Negara Madinah menjadi beberapa propinsi, dan setiap propinsi Ia menugaskan seorang amir atau wali (semacam jabatan gubernur).

Mengenai praktek pemerintahan Abu Bakar di bidang pranata social ekonomi adalah mewujudkan keadilan dan kesejahteraan social rakyat.untuk kemaslahatan rakyat ini ia mengolah zakat, infak,sadaqoh yang berasal dari kaum muslimin, ghanimah harta rampasan perang dan jizyah dari warga Negara non-muslim, sebagai sumber pendapatan baitul mal. Penghasilan yang diperoleh dari sumber-sumber pendapatan Negara ini di bagikan untuk kesejahteraan tentara, bagi para pegawai Negara,dan kepada rakyat yang berhak menerima sesuai ketentuan al-quran

Pada saat Abu Bakar Radhiallahu ‘anhu meninggal dunia, sementara barisan depan pasukan Islam sedang mengancam Palestina, Irak, dan kerajaan Hirah. Ia diganti oleh "tangan kanan" nya, Umar ibn Khatthab al-Faruq Radhiallahu ‘anhu. Ketika Abu Bakar Radhiallahu ‘anhu sakit dan merasa ajalnya sudah dekat, ia bermusyawarah dengan para pemuka sahabat, kemudian mengangkat Umar ibn Khatthab Radhiallahu ‘anhu sebagai penggantinya dengan maksud untuk mencegah kemungkinan terjadinya perselisihan dan perpecahan di kalangan umat Islam. Kebijaksanaan Abu Bakar Radhiallahu ‘anhu tersebut ternyata diterima masyarakat yang segera secara beramai-ramai membaiat Umar Radhiallahu‘anhu . Umar Radhiallahu ‘anhu menyebut dirinya Khalifah Rasulullah (pengganti dari Rasulullah). Ia juga memperkenalkan istilah Amir al-Mu'minin (petinggi orang-orang yang beriman).

Dari penunjukkan Umar sebagai penggantinya, ada hal yang perlu dicatat:

1.       Bahwa Abu Bakar dalam menunjuk Umar tidak meninggalkan azas musyawarah.ia lebih ulu mengadakan konsultasi untuk mengetahui aspirasi rakyat melalui tokoh-tokoh kaum muslimin.

2.       Abu Bakar tidak menunjuk salah seorang putranya atau kerabatnya melainkan memilih seseorang yang disegani oleh rakyat karena sifat-sifat terpuji yang dimilikinya.

3.       Pengukuhan Umar sebagai khalifah sepeniggal Abu Bakar berjalan baik dalam suatu bai’at umum dan terbuka tanpa ada pertentangan dikalangan kaum muslimin sehingga opsesi Abu Bakar untuk mempertahankan keutuhan umat Islam dengan cara penunjukkan itu terjamin.

B.      KHILAFAH RASYIDIN UMAR BIN KHATAB

Ketika Abu Bakar merasakan sakitnya semakin berat, ia mengumpulkan para sahabat besar dan menunjuk Umar bin Khattab sebagai Khalifah. Para sahabat setuju dan Abu Bakar meninggalkan surat wasiat yang menunjuk Umar sebagai penggantinya.sebagai mana Abu Bakar, Umar bin khattab pun di bai’at dihadapan umat muslimin.bagian dari pidatonya adalah:

“Aku telah dipilih jadi khalifah.kerendahan hati abu Bakar selaras dengan jiwanya yang terbaik diantara kamu dan lebih kuat diantara kamu dan juga lebih mampu memikul urusan kamu yang penting-penting.aku diangkat dalam jabatan ini tidaklah sama seperti beliau.andaikata aku tau ada orang yang lebih kuat daripada aku untuk memikul jabatan ini, maka memberikan leherku untuk dipotong lebih aku sukai daripada memikul jabatan ini.”

Sebagai seorang negarawan yang patut diteladani.ia telah menggariskan:

1.       Persyaratan bagi calon Negara;

2.      Menetapkan dasar-dasar pengelolaan Negara;

3.      Mendorong para pejabat Negara agar benar-benar meperhatikan kemaslhatan rakyat dan melindungi hak-haknya karena mereka adalah pengabdi rakyat dan bagian dari rakyat itu sendiri;

4.      Pejabat yang dipegang seseorang adalah amanah yang harus dipertanggung jawabkan kepada tuhan dan rakyat

5.      Mendidik rakyat supaya berani memberi nasihat dan kritik kepada pemerintah,pemerintah juga harus berani menerima kritik dari siapapun sekalipun menyakitkan karena pemerintah lahir rakyat dan untuk rakyat;

6.      Khalifah Umar telah meletakkan dasar-dasar pengadilan dalam islam.

Ia selalu mengadakan musyawarah dengan tokoh-tokoh ansar dan Muhajirin, dengan rakyat dan dengan para administrator pemerintahan untuk memecahkan masalah-masalah umumdan kenegaraan.ia tidak bertindak sewenang-wenang dan memutuskan suatu urusan tanpa mengikutsertakan warga umat.

Hasil musyawarah atau konsultasi khalifah diakhir hidupnya dengan sejumlah pemuka masyarakat madinah yang terpenting adalah terbentuknya “tim formatur”yang bertugas memilih khalifah setelah umar.konsultasi ini terjadi ketika keadaan jiwanya akibat tikaman enam kali yang dilakukan Abu lu’luah karena dendam,dan ini ini mengakibatkan kewafatannya.

Di zaman Umar Radhiallahu ‘anhu gelombang ekspansi (perluasan daerah kekuasaan) pertama terjadi; ibu kota Syria, Damaskus, jatuh tahun 635 M dan setahun kemudian, setelah tentara Bizantium kalah di pertempuran Yarmuk, seluruh daerah Syria jatuh ke bawah kekuasaan Islam. Dengan memakai Syria sebagai basis, ekspansi diteruskan ke Mesir di bawah pimpinan 'Amr ibn 'Ash Radhiallahu ‘anhu dan ke Irak di bawah pimpinan Sa'ad ibn Abi Waqqash Radhiallahu ‘anhu. Iskandariah/Alexandria, ibu kota Mesir, ditaklukkan tahun 641 M. Dengan demikian, Mesir jatuh ke bawah kekuasaan Islam. Al-Qadisiyah, sebuah kota dekat Hirah di Iraq, jatuh pada tahun 637 M. Dari sana serangan dilanjutkan ke ibu kota Persia, al-Madain yang jatuh pada tahun itu juga. Pada tahun 641M , Moshul dapat dikuasai. Dengan demikian, pada masa kepemimpinan Umar Radhiallahu ‘anhu, wilayah kekuasaan Islam sudah meliputi Jazirah Arabia, Palestina, Syria, sebagian besar wilayah Persia, dan Mesir.

Karena perluasan daerah terjadi dengan cepat, Umar Radhiallahu ‘anhu segera mengatur administrasi negara dengan mencontoh administrasi yang sudah berkembang terutama di Persia. Administrasi pemerintahan diatur menjadi delapan wilayah propinsi: Makkah, Madinah, Syria, Jazirah Basrah, Kufah, Palestina, dan Mesir. Beberapa departemen yang dipandang perlu didirikan. Pada masanya mulai diatur dan ditertibkan sistem pembayaran gaji dan pajak tanah. Pengadilan didirikan dalam rangka memisahkan lembaga yudikatif dengan lembaga eksekutif.

Adapun kekuasaan eksekutif dipegang oleh Umar bin Khhattab dalam kedudukannya sebagai kepala Negara.untuk menunjung kelancaran administrasi dan operasional tugas-tugas eksekutif, Umar melengkapinya dengan beberapa jawatan,diantaranya:

1.       Diwana al-kharaj(jawatan pajak)

2.       Diwana alahdats(jawatan kepolisian)

3.       Nazarat al-nafi’at(jawatan pekerjaan umum)

4.       Diwana al-jund(jawatan militer)

5.       Baitul al-mal(baitul mal)

Sumber-sumber keuangan Negara untuk mengisi baitul mal diperoleh dari alfarz,usyri,usyur,zakat dan jizya.

Umar Radhiallahu ‘anhu memerintah selama sepuluh tahun (13-23 H/634-644 M). Masa jabatannya berakhir dengan kematian. Dia dibunuh oleh seorang majusi, budak dari Persia bernama Abu Lu'lu'ah. Untuk menentukan penggantinya, Umar Radhiallahu ‘anhu tidak menempuh jalan yang dilakukan Abu Bakar Radhiallahu ‘anhu. Dia menunjuk enam orang sahabat dan meminta kepada mereka untuk memilih salah seorang diantaranya menjadi khalifah. Enam orang tersebut adalah Usman, Ali, Thalhah, Zubair, Sa'ad ibn Abi Waqqash, Abdurrahman ibn 'Auf Radhiallahu Ta’ala anhu ajma’in. Setelah Umar Radhiallahu ‘anhu wafat, tim ini bermusyawarah dan berhasil menunjuk Utsman Radhiallahu ‘anhu sebagai khalifah, melalui proses yang agak ketat dengan Ali bin Abi Thalib Radhiallahu ‘anhu.

C.     KHILAFAH UTSMAN bin AFFAN

Umar bin Khattab tidak dapat memutuskan bagaimana cara terbaik menentukan khalifah penggantinya. Segera setelah peristiwa penikaman dirinya oleh Fairuz, seorang majusi persia, Umar mempertimbangkan untuk tidak memilih pengganti sebagaimana dilakukan Rasulullah. Namun Umar juga berpikir untuk meninggalkan wasiat seperti dilakukan Abu Bakar. Sebagai jalan keluar, Umar menunjuk enam orang Sahabat sebagai Dewan Formatur yang bertugas memilih Khalifah baru. Keenam Orang itu adalah Abdurrahman bin Auf, Saad bin Abi Waqqash, Thalhah bin Ubaidillah, Zubair bin Awwam, Utsman bin Affan dan Ali bin Abi Thalib.

Setelah melalui perdebatan yang cukup lama, muncul dua nama yang bersaing ketat yakni Utsman bin Affan dan Ali bin Abi Thalib. Keputusan terakhir diserahkan kepada Abdurrahman bin Auf sebagai ketua Dewan yang kemudian menunjuk Utsman bin Affan sebagai Khalifah.

Setelah Usman bin Affan dilantik menjadi khlifah ketiga Negara madinah ,ia menyampaikan pidatonya yang menggambarkan dirinya sebagai sufi, dan citra pemerintahannya lebih bercorak agama ketimbang politik belaka sebagai dominan.dalam pidato itu usman mengingatkan beberapa hal yang penting:

1.       Agar umat islam berbuat baik sebagai bekal untuk hari kematian;

2.       Agar umat islam terpedaya kemewahan hidup dunia yang penuh kepalsuan

3.       Agar umat islam mau mengambil pelajaran dari masa lalu;

4.       Sebagai khalifah ia akan melaksanakan perintah al-quran dan sunnah rasul;

5.       Di samping ia akan meneruskan apa yang telah dilkukan pendahulunya juga akan membuat hal baru yag akan membawa kepada kebajikan

6.       Umat islamboleh mengkririknya bila ia menyimpang dari ketentuan hokum

Untuk pelaksanaan administrasi pemerintahan didaerah,khalifah usman mempercayakannya kepada seorang gubernur untuk setiap wilayah atau propinsi pada masanya kekuasaan wilayah madinadibagi menjadi 10 propinsi:

1.       Nafi’bin al-haris al-khuza’i,amir wilayah mekkah;

2.       Sufyan bin Abdullah al-tsaqqfi,amir wilayah thaif

3.       Ya’la bin Munabbih Halif BaniNauful bin Abd Manaf,amir wilayah Shan’a

4.       Abdullah bin Abi Rabiah ,amir wilayah a-janad;

5.       Usman bin Abi al-ashal-Tsaqafi,Amir wilayah Bahrain;

6.       Al-Mughirah bin Syu’bah al-tsaqi, Amir wilayah Kufah;

7.       Abu Musa Abdullah bin Qais al-Asy’ari,Amir wilayah Basrah;

8.       Muawiyah bin Abi Sufyan ,Amir wilayah Damaskus

9.       Umar bin Sa’ad ,Amir wilayah Himsh;dan

10.   Amr bin al-Ash al-Sahami, Amir wilayah mesir.

Sedangkan kekuasaan legislative dipegang oleh Dewan Penasehat Syura, tempat khalifah mengadakan musyawarah dengan para sahabat terkemuka.

Prestsai tertinggi masa pemerintahan Usman sebagai hasil majlis syura adalah menyusun al-quran standar , yaitu penyeragaman bacaan dan tulisan al-quran,seperti yang dikenal sekarang.naskah salinan al-quran tersebut disimpan dirumah istri nabi kemudian naskah salinannya atas persetujuan para sahabat dikirim ke beberapa daerah.

Di masa pemerintahan Utsman Radhiallahu ‘anhu (644-655 M), Armenia, Tunisia, Cyprus, Rhodes, dan bagian yang tersisa dari Persia, Transoxania, dan Tabaristan berhasil direbut. Ekspansi Islam pertama berhenti sampai di sini. Untuk mengisi baitul mal diperoleh dari alfarz,usyri,usyur,zakat dan jizya.if,Umar melengkapinya dengan beberapa jawatan.

Pemerintahan Usman Radhiallahu ‘anhu berlangsung selama 12 tahun, pada paruh terakhir masa kekhalifahannya muncul perasaan tidak puas dan kecewa di kalangan umat Islam terhadapnya. Kepemimpinan Utsman Radhiallahu ‘anhu memang sangat berbeda dengan kepemimpinan Umar Radhiallahu ‘anhu. Ini karena fitnah dan hasutan dari Abdullah bin Saba’ Al-Yamani salah seorang yahudi yang berpura-pura masuk islam. Ibnu Saba’ ini gemar berpindah-pindah dari suatu tempat ke tempat lainnya untuk menyebarkan fitnah kepada kaum muslimin yang baru masa keislamannya. Akhirnya pada tahun 35 H/1655 M, Utsman Radhiallahu ‘anhu dibunuh oleh kaum pemberontak yang terdiri dari orang-orang yang berhasil dihasut oleh Abdullah bin Saba’ .

Tahun-tahun berikutnya, pemerintahannya Usman mulai goyah.Rakyat dibeberapa daerah terutama Kufah,Basrah dan Mesir mulai memprotes kepemimpinannya yang dinilai tidak adil.Salah satu faktor yang menyebabkan banyak rakyat berburuk sangka terhadap kepemimpinan Utsman Radhiallahu ‘anhu adalah kebijaksanaannya mengangkat keluarga dalam kedudukan tinggi. Yang terpenting diantaranya adalah Marwan ibn Hakam Rahimahullah. Dialah pada dasarnya yang dianggap oleh orang-orang tersebut yang menjalankan pemerintahan, sedangkan Utsman Radhiallahu ‘anhu hanya menyandang gelar Khalifah. Setelah banyak anggota keluarganya yang duduk dalam jabatan-jabatan penting, Dia juga tidak tegas terhadap kesalahan bawahan. Harta kekayaan negara, oleh kerabatnya dibagi-bagikan tanpa terkontrol oleh Usman Radhiallahu ‘anhu sendiri. Itu semua akibat fitnah yang ditebarkan oleh Abdullah bin Saba’.

Padahal Utsman Radhiallahu ‘anhu yang paling berjasa membangun bendungan untuk menjaga arus banjir yang besar dan mengatur pembagian air ke kota-kota. Dia juga membangun jalan-jalan, jembatan-jembatan, masjid-masjid dan memperluas masjid Nabi di Madinah.

D.     KHALIFAH ALI bin ABI THALIB (35-40 H)

Umat yang tidak punya pemimpin dengan wafatnya Utsman, membaiat Ali bin Abi Thalib sebagai Khalifah baru.

Pengukuhan Ali menjadi khalifah tidak semulus pengukuhan tiga orang khalifah pendahulunya.ia di bai’at di tengah-tengah kematian usman, pertentangan dan kekacauandan kebingungan umat islam Madinah.sebab kaum pemberontak yang membunuh Usman mendaulat Ali supaya bersedia dibaiat menjadi khalifah.

Dalam pidatonya khalifah Ali menggambarkan dan memerintahkan agar umat islam:

1.       Tetap berpegang teguh kepada al-quran dan sunnah rasul

2.       Taat dan bertaqwa kepada Allah serta mengabdi kepada Negara dan sesame manusia

3.       Saling memelihara kehormatan di antara sesame muslim dan umat lain

4.       Terpanggil untuk berbuat kebajikan bagi kepentingan umum,dan

5.       Taat dan patuh kepada pemerintah.

Tidak lama setelah itu, Ali ibn Abi Thalib Radhiallahu ‘anhu menghadapi pemberontakan Thalhah, Zubair dan Aisyah. Alasan mereka, Ali Radhiallahu ‘anhu tidak mau menghukum para pembunuh Utsman Radhiallahu ‘anhu , dan mereka menuntut bela terhadap darah Utsman Radhiallahu ‘anhu yang telah ditumpahkan secara zhalim. Ali Radhiallahu ‘anhu sebenarnya ingin sekali menghindari perang. Dia mengirim surat kepada Thalhah dan Zubair Radhiallahu ‘anhu ajma’in agar keduanya mau berunding untuk menyelesaikan perkara itu secara damai. Namun ajakan tersebut ditolak. Akhirnya, pertempuran yang dahsyat pun berkobar. Perang ini dikenal dengan nama Perang Jamal (Unta), karena Aisyah Radhiallahu ‘anha dalam pertempuran itu menunggang unta, dan berhasil mengalahkan lawannya. Zubair dan Thalhah terbunuh, sedangkan Aisyah Radhiallahu ‘anha ditawan dan dikirim kembali ke Madinah.

Dengan demikian masa pemerintahan Ali melalui masa-masa paling kritis karena pertentangan antar kelompok yang berpangkal dari pembunuhan Usman.namun Ameer Ali menyatakan:…ia berhasil memecat sebagian besar gubernur yang korupsi dan mengembalikan kebijaksanaan Umar pada setiap kesempatan yang memungkinkan.ia membenahi dan menyusun arsip Negara untuk mengamankan dan menyelamatkan dokumen-dokumen khalifah dan kantor sahib-ushsurtah,serta mengordinir polisi dan menetapkan tugas-tugas mereka.

Kebijaksanaan-kebijaksanaan Ali Radhiallahu ‘anhu juga mengakibatkan timbulnya perlawanan dari para gubernur di Damaskus, Mu'awiyah Radhiallahu ‘anhu, yang didukung oleh sejumlah bekas pejabat tinggi yang merasa kehilangan kedudukan dan kejayaan. Setelah berhasil memadamkan pemberontakan Zubair, Thalhah dan Aisyah, Ali Radhiallahu ‘anhu bergerak dari Kufah menuju Damaskus dengan sejumlah besar tentara. Pasukannya bertemu dengan pasukan Mu'awiyah Radhiallahu ‘anhu di Shiffin. Pertempuran terjadi di sini yang dikenal dengan nama perang shiffin. Perang ini diakhiri dengan tahkim (arbitrase), tapi tahkim ternyata tidak menyelesaikan masalah, bahkan menyebabkan timbulnya golongan ketiga, al-Khawarij, orang-orang yang keluar dari barisan Ali Radhiallahu ‘anhu. Akibatnya, di ujung masa pemerintahan Ali bin Abi Thalib Radhiallahu ‘anhu umat Islam terpecah menjadi tiga kekuatan politik, yaitu Mu'awiyah, Syi'ah (pengikut Abdullah bin Saba’ al-yahudi) yang menyusup pada barisan tentara Ali Radhiallahu ‘anhu, dan al-Khawarij (orang-orang yang keluar dari barisan Ali). Keadaan ini tidak menguntungkan Ali Radhiallahu ‘anhu. Munculnya kelompok al-khawarij menyebabkan tentaranya semakin lemah, sementara posisi Mu'awiyah Radhiallahu ‘anhu semakin kuat. Pada tanggal 20 ramadhan 40 H (660 M), Ali Radhiallahu ‘anhu terbunuh oleh salah seorang anggota Khawarij yaitu Abdullah bin Muljam.

Harus diakui ada beberapa kasus dan peristiwa pada masa khalifah Usman dan Ali yang tidak menyenangka.tapi perlu dicatat secara umum mengenai beberapa hal yang dicontohkan oleh khulafa al-Rasyidin dalam memimpin Negara Madinah. Pertama, mengenai pengangkatan empat orang sahabat Nabi terkemuka itu menjadi Khalifah dipilih dan di angkat dengan cara yang berbeda. 1) Pemilihan bebas dan terbuka melalui forum musyawarah tanpa ada seorang calon sebelumnya. Karena Rasulullah SAW tidak pernah menunjuk calon penggantinya. Cara ini terjadi pada musyawarah terpilihnya Abu Bakar dibalai pertemuan TsaqifahBani Syaidah. 2) Pemilihan dengan cara pencalonan atau penunjukan oleh khalifah sebelumnya dengan terlebih dahulu mengadakan konsultasi dengan para sahabat terkemuka dan kemudian memberitahukan kepada umat islam, dan mereka menyetujuinya. Penunjukan itu tidak karena ada hubungan keluarga antara khalifah yang mencalonkan dan calon yang di tunjuk. Cara ini terjadi pada penunjukan Umar oleh khalifah Abu Bakar. 3) Pemilihan team atau Majelis Syura yang di bentuk khalifah. Anggota tem bertugas memilih salah seorang dari mereka menjadi khalifah. Cara ini terjadi pada Usman melalui Majelis Syura yang dibentuk oleh khalifah Umar yang beranggotakan enam orang. 4) Pengangkatan spontanitas di tengah-tengah situasi yang kacau akibat pemberontakan sekelompok masyarakat muslim yang membunuh usman.Cara ini terjadi pada Ali yang dipilih oleh kaum pemberontak dan umat Islam Madinah. Kedua, Pemerintahan Khulafa’ al-Rasyidin tidak mempunyai konstitusi yang dibuat secara khusus sebagai dasar dan pedoman penyelenggaraan pemerintahan. Undang-undang nya adalah Al-Qur’an dan Sunnah Rasul ditambah dengan hasil ijtihad khalifah dan keputusan Majelis Syura dalam menyelesaikan masalah-masalah yang timbul yang tidak ada penjelasannya dalam nash syariat. Ketiga, Pemerintahan khulafa al-Rasyidin juga tidak mempunyai ketentuan mengenai masa jabatan bagi setiap khalifah. Mereka tetap memegang jabatan itu selama berpegang kepada syariat islam. Keempat, dalampenyelenggaraan pemerintahan Negara Madinah khulafa al-Rasyidin telah melaksanakan prinsip musyawarah, prinsip persamaanbagi semua lapisan masyarakat dalam berbagai aspek kehidupan, prinsip kebebasan berpendapat, prinsip keadilan social dan kesejahteraan rakyat. Kelima,dasar dan pedoman penyelenggaraan pemerintahan Negara Madinah adalah Al-Qur’an dan Sunnah rasul, hasil ijtihad penguasa, dan hasil keputusan Majelis Syura. Karenanya corak Negara Madinah pada periode Khulafa al-Rasyidin tidak jauh berbeda daripada zamanRasulullah.