Menurut para ulama Aswaja, bahwa di dunia ini hanya ada lima khalifah pengganti Rasulullah SAW yang termasuk Khulafa Rasyidin (Khalifah yang sangat adil dan bijaksana), yaitu Sy. Abu Bakar Asshiddiq, Sy. Umar bin Khatthab, Sy. Utsman bin Affan, Sy. Ali bin Abi Thalib dan Sy. Umar bin Abdul Aziz. Sebagaimana yang disampaikan oleh Imam Atstsauri dalam riwayat Abu Dawud.

Khalifah Umar bi Abdul Aziz lahir di daerah Halwan Mesir. Ibunya adalah Ummu Ashim binti Ashim bin Umar bin Khatthab. Konon di masa kecil, beliau sempat cedera oleh ulah hewan tunggangannya hingga membekas sedikit luka di wajahnya. Saat itu ayahnya mengusap darah yang mengucur di wajahnya sambil berkata : Jika engkau kelak menjadi orang yang paling berani dari kalangan Bani Umayyah, pasti engkau akan sukses.

Termasuk keramat Sy. Umar bin Khatthab beliau pernah berujar : Dari keturunannku, akan ada seorang yang pada wajahnya itu bekas luka, maka keadilannya akan memenuhi seluruh dunia. (HR. Attirmidzi).

Khalifah Umar bi Abdul Aziz, sejak kecil sudah hafal Alquran, lantas sang ayah mengirimnya ke kota Madinah Almunawwarah untuk mendalami ilmu agama. Di antara gurunya adalah Sy. Ubaid bin Abdullah.

Setelah dewasa beliau diangkat menjadi Amirul Mukminin di kota Madinah yang terkenal sangat adil dan bijaksana mengikuti tata cara datuknya, yaitu Sy. Umar bin Khatthab dalam melaksanakan roda pemerintahan.

Sy, Anas bin Malik, seorang shahabat yang diberi umur sangat panjang berkat doa dari Nabi SAW, hingga mendapati beberapa generasi kekhalifahan dalam hidupnya, beliau mengatakan: Aku tidak pernah shalat bermakmum di belakang seorang imam yang shalatnya menyerupai shalatnya Rasulullah SAW kecuali pemuda ini (sambil menunjuk Sy. Umar bin Abdul Aziz).

Konon Khalifah Umar bi Abdul Aziz selalu menyempurnakan rukuk dan sujudnya, serta memperpendek berdiri dan duduknya, jika bertindak sebagai imam shalat.

Sy. Muhammad bin Ali bin Husain bin Ali bin Abi Thalib, suatu saat ditanya tentang kepribadian Khalifah Umar bi Abdul Aziz, maka beliau menjawab : Khalifah Umar bi Abdul Aziz adalah paling baiknya orang dari Bani Umayyah, beliau kelak akan memimpin umat di hari Qiamat.

Dalam riwayat Abu Nu`aim dari Rayyah bin Ubaidah, beliau berkata:

Konon aku dapati Khalifah Umar bi Abdul Aziz berangkat ke masjid untuk melaksanakan shalat berjamaah, sedangkan di halaman masjid ada seorang tua renta yang sedang duduk bersandar, maka terlintas dalam benakkku pertanyaan, mengapa Khalifah Umar bi Abdul Aziz tidak menghiraukan orang tua renta yang tampaknya membutuhkan bantuan ini? Maka tatkala Khalifah Umar bi Abdul Aziz selesai shalat, aku langsung mendekatinya dan aku katakan: Mengapa engkau tidak menghiraukan orang tua renta yang bersandar di halaman tadi ?

Khalifah Umar bi Abdul Aziz balik bertanya kepada Abu Nu`aim : Apakah engkau melihatnya ? Kalau demikian aku yakin jika engkau ini termasuk orang shalih hingga engkau dapat melihatnya, karena orang tua renta itu adalah Sayyidina Khidhir yang datang kepadaku dan memberitahuku jika aku harus  memimpin umat ini dengan penuh keadilan.