Setelah wafatnya Nabi Muhammad SAW, muncullah para Khalifah. Fungsi
mereka menggantikan jabatan Nabi Muhammad SAW sebagai kepala negara, hakim
dan panglima perang. Jabatan khalifah ini terus berlangsung hingga tahun 1923 M
dan baru setelah Mustafa kemal Pasha menjadi kepala negara sistem kekhalifahan
dihapuskan. Muhammad V merupakan Khalifah terakhir.
Khalifah-khalifah yang pernah berkuasa diantaranya :
 Khalifah Abu Bakar
Ada beberapa tindakan yang penting dilaksanakan oleh Khalifah Abu Bakar
(632-634 M), diantaranya :
· Mengembalikan suku-suku Arab yang murtad ke agama Islam.
· Membasmi nabi-nabi palsu, seperti Tulaiha, Musilama dan lain-lain
· Mulainya pengumpulan lembaran surat-surat Al Qur’an
· Peramalan ekspansi Islam keluar Jazirah Arab
 Khalifah Umar Bin Khattab
Ada beberapa tindakan yang penting dari khafilah umar (634-644 M)
diantaranya :
· Tahun Hijrah dijadikan permulaan tahun Islam yaitu tahun 622 M sama
dengan 1 tahun Hijrah
· Daerah Islam diperluas sampai daerah perbatasan India dan Tripoli (di Afrika

Utara). Perluasan wilayah ke Asia kecil dan Persia dilakukan oleh Khalid bin
Al Walid sedang ke Afrika Utara dipimp Amir bin Al As
· Akibat perluasan wilayah itu, Islam mendapat kekuatan politik di daerahdaerah
yang sejak dulu mempunyai kebudayaan tinggi. Kemudian terjadi
perpaduan antara agama islam dengan kebudayaan setempat, yang telah
terkena pengaruh kebudayaan Yunani.
 Khalifah Usman bin Affan
Jasa besar Khalifah Usman (644-656 M) pada masa pemerintahannya adalah
dibukukannya secara resmi kitab suci Al Qur’an. Pekerjaan ini diserahkan kepada
Zaid bin Tsabit dan susunan Al Qur’an itu hingga sekarang tidak mengalami
perubahan
 Khalifah Ali bin Abi Thalib
Setelah berakhirnya pertentangan-pertentangan dalam tubuh Islam maka Ali,
menantu Nabi, menduduki jabatan kekhalifahan (656-661 M). Namun, keluarga
Ummayah tidak menyetujui Ali sebagai khalifah dan mereka mencalonkan
Mu’awaiyah (Gubernur Syria) sebagai khalifah. Akhirnya perang saudara tidak
dapat dihindarkan lagi. Dalam pertempuran di Siffin (657 M) pasukan Mu’awiyah
hampir dapat dihancurkan. Tetapi Mu’awiyah menggunakan tipu muslihat dan
berdalih untuk mencegah pertentangan maka mengajukan supaya dibentuk Badan
menjadi khalifah. Badan Pengadilan menentukan bahwa yang menang adalah
Mu’awiyah, keputusan itu tidak memuaskan Ali, sehingga bentrokan berjalan
terus. Pada tahun 661 Ali mati terbunuh, dengan demikian mulailah kekhalifahan
keluarga Ummayah
 Kekhalifahan Ummayah
Setelah kedudukan khalifah dikuasai oleh keluarga Ummayah (661-750 M).
Pusat kekuasaan negara Islam dipindahkan keluar Jazirah Arab, yaitu ke Syria
(Damaskus)
Pada masa ini, dasar-dasar demokrasi Arab lenyap, karena jabatan khalifah
dipegang secara turun temurun. Hidup khalifah sama dengan hidup raja dengan
kekuasaannya yang mutlak.
Wilayah kekuasaaan negara islam pada masa ini meliputi wilayah yang sangat
luas. Ke sebelah barat sampai ke daerah spanyol dan ke sebelah timur kedaerah
Pakistan dan Asia Tenggara. Perluasan wilayah ini dilakukan oleh :
· Musa memimpin tentara islam menyerbu kearah barat menyusuri daerah
Afrika utara samapai Maroko. Perjalanan ini dilanjutkan oleh Tarik dan
berhasil menduduki semenanjung Iberia serta menguasai Spanyol (712 M)
· Muhammad Kasim berhasil menduduki daerah lembah sungai Shindu (721
M)
· Maslama memimpin tentara Islam menyerang konstatinopel tetapi trap
serangan dapat dipukul mundur. Baru ada tahun 1453 M konstatinopel dapat
dikuasai.
Pada tahun 750 M, terjadi perebutan kekuasaan terhadap keluarga Ummayah
yang dilakukan oleh golongan Abbasiyah dalam perebutan kekuasaan itu, hampir
seluruh keluarga Ummayah dimusnahkan. Hanya seorang yang berhasil
meloloskandiri, yait Abdur Rachman.
 Kekhalifahan Abbasiyah
Pada masa ini pusat kekhalifahan dipinahkan dari Damaskus ke Bagdad.
Kekhalifahan Abbasiyah (750-1258 M) mengalami perkembangan yang cukup
pesat dan pada masa pemerintahan Harun Al Rasyid (786-809 M) mencapai
puncak yang gemilang. Hal ini tak lepas dari :
· Bagdad merupakan pelabuhan transito dan perdagangannya maju pesat
· Buku-buku filsafat dan ilmu pengetahuan baik dari Yunani maupun dari Persia
diterjemahan kedalam bahasa dan huruf Arab
· Harun Al Rasyid mengadakan persahabatan dengan Karel Agung (Perancis).
Peristiwa ini terjadi berdasarkan situasi politik sebagai berikut :
Bagdad bermusuhan dengan Byzantium dalam memperebutkan Asia kecil
Bagdad bermusuhan dengan keamiran Cordoba dalam memperebutkan
daerah pantai utara Afrika dan juga karena Cordoba tidak mau mengakui
kekhalifahan Bagdad
Perancis bermusuhan dengan Cordoba dalam memperebutkan daerah
Spanyol Utara, juga bermusuhan dengan Byzantium karena daerah Italia.
Dalam perebutan berikutnya kekhalifahan mengalami kemunduran. Hal ini
disebabkan oleh :
· Terjadinya perebutan jabatan khalifah diantara keluarga sediri, sehingga
dalam istana terdapat kelompok-kelompok yang saling bertentangan
· Pertentangan itu mengakibatkan pemerintahan pusat menjadi lemah, sehingga
daerah-daerah bagian banyak yang memerdekakan diri
 Kekhalifahan Cordoba
Abdur Rachman, satu-satunya keturunan kekhalifahan Ummayah yang
berhasil menyelamatkan diri dari serangan golongan Abbasiyah mendirikan
kekhalifahan Cordoba di Spanyol. Ia tetap menyebut dirinya Amir dan tidak mau
mengakui kekhalifahan Bagdad. Baru pada masa kekuasaan Abdur Rachman III,
Cordoba menyatakan dirinya sebagai khalifah dan kedudukannya seimbang
dengan kekhalifahan Bagdad (929 M).
Pada jaman kekhalifahan Cordoba ilmu Pengetahuan dan kebudayaan
berkembang pesat. Masjid-masjid banyak dibangun istana dan perpustakaan
didirikan ahli-ahli bangunan, tabib, pengarang, ahli-ahli fikir, ahli pakaian dan
ahli-ahli kemasyarakatan banyak terdapat di Cordoba.
Kemajuan dalam bidang kebudayaan itu mendorong orang-orang Eropa untuk
belajar di spanyol. Kebudayaan dari timur yang telah tinggi dan juga warisan
kebudayaan Romawi danYunani Kuno yang telah hidang dari Eropa Barat,
diketemukan kembali melalui Islam di spanyol
Daerah kekuasaan Islam pada perkembangan selanjutnya makin sempit. Akan
tetapi, pikiran-pikiran Islam makin meluas. Apabila mula-mula mempertahankan
dan meluaskan pengaruh Islam dengan pedang, tetapi pada waktu-waktu
berikutnya perluasan Islam dilakukan dengan jalan damai yaitu melalui
perdagangan. Melalui perdagangan inilah Islam masuk ke wilayah Indonesia.