Ada yang menganggap Syi’ah lahir pada masa akhir kekhalifahan Usman bin Affan Ra atau pada masa awal kepemimpinan Ali bin Abi Thalib Ra. Pada masa itu terjadi pemberontakan terhadap khalifah Usman bin Affan Ra, yang berakhir dengan kesyahidan Usman dan ada tuntutan umat agar Ali bin Abi Thalib bersedia dibaiat sebagai khalifah.

Tampaknya pendapat yang paling popular adalah bahwa Syi’ah lahir setelah gagalnya perundingan antara pihak pasuksan khalifah Ali dengan pihak Mua’awiyah bin Abu Sufyan Ra di Siffin  yang lazim tersebut sebagai peristiwa at-tahkim  (arbitrasi). Akibat kegagalan itu, sejumlah pasukan Ali menentang kepemimpinannya dan keluar dari pasukan Ali. Mereka ini disebut golongan khawarij (orang-orang yang keluar dari barisan Ali). Sebagian besar orang yang tetap setia kepada khalifah disebut Syi’ah Ali (pengikut Ali). Istilah Syi’ah pada era kekhalifahan Ali hanyalah bermakna pembelaan dan dukungan politik.

Syi’ah Ali yang muncul pertama kali pada era kekhalifahan Ali bin Abi Thalib Ra, bisa disebut
sebagai pengikut setia khalifah yang sah pada saat itu melawan pihak Mu’awiyah, dan hanya bersifat kultural, bukan bercorak aqidah seperti yang dikenal pada masa sesudahnya hingga sekarang.

Sebab kelompok Syi’ah Ali yang terdiri dari sebagian sahabat Rasulullah dan sebagian besar tabi’in pada saat itu tidak ada yang berkeyakinan bahwa Ali bin Abi Thalib Ra lebih utama dan lebih berhak atas kekhalifahan setelah Rasul dari Abu Bakar Ra dan Umar bin Khattab Ra.

Bahkan Ali bin Abi Thalib Ra sendiri, saat menjadi khalifah, menegaskan dari atas mimbar masjid kufah ketika berkhutbah bahwa, “sebaik-baiknya umat Islam setelah Nabi Muhammad SAW adalah Abu Bakar dan Umar Ra.”

Demikian pula jawaban beliau ketika ditanya oleh putranya yaitu Muhammad ibn Al-Hanifah seperti yang diriwayatkan oleh Al-Bukhari dalam shahihnya (hadits no. 3671).

Menurut Murtdha Mutahhari -ulama Syi’ah- “ Ali bin Abi Thalib adalah sahabat Nabi seperti juga Abu Bakar, Umar bin Khattab, Usman bin Affan dan yang lainnya. Tetapi Ali berhak, lebih terdidik, lebih shaleh dan lebih berkemampuan ketimbang para sahabat lainnya, dan bahwa Nabi sudah merencanakannya sebagai pengganti beliau.

Kaum Syi’ah meyakini Ali dan keturunannya sebagai imam yang berhak atas kemimpinan politis dan otoritas keagamaan. Dengan kata lain, mereka meyakini bahwa yang berhak atas atoritas spiritual dan politis dalam komunitas Islam pasca Nabi adalah Ali beserta keturunannya.

Sedangkan menurut Thabathabai, Syi’ah  muncul karena kritik dan protes terhadap dua masalah dasar dalam Islam, yaitu berkenan dengan pemerintahan Islam dan kewenangan dalam pengetahuan keagamaan yang manurut Syi’ah menjadi hak istimewa ahl-bait.

Kendatipun persoalan imamah menjadi pokok keimanan Syi’ah, tetapi ternyata telah menjadi perbedaan dan perselisihan di kalangan firqah-firqah Syi’ah, terutama pada penentuan siapakah yang menjadi “imam”.

Al-Hasan bin Musa an-Naubakhti, ulama Syi’ah yang hidup pada petengahan abad ke 3 H hingga awal 4 H, dalam kitab firaq as-syi’ah (hal.19-109) telah menjelaskan perbedaan-perbedaan itu dalam beberapa bentangan periodik . Diantaranya, setalah Ali bin Abi Thalib wafat, menurut an-Naubukhti, Syi’ah terpecah menjadi 3 golongan :

Pertama, kelompok yang berpendapat Ali tidak mati terbunuh, dan tidak mati, sehingga ia berhasil menegakkan keadilan di dunia. Inilah kelompok ekstrim (ghuluw) pertama. Kelompok ini disebut Syi’ah as-saba’iyah, yang dipimpin oleh Abdullah bin Saba’. Mereka adalah kelompok yang terang-terangan mencaci serta berlepas diri (bara’ah) dari Abu Bakar, Umar dan Usman serta para sahabat Rasulullah.

Mereka mengaku Ali-lah yang menyuruh mereka untuk melakukan hal ini. Ketika  dipanggil oleh Ali mereka mengakui perbuatannya. Hampir saja Ali memvonis mati terhadap Abdullah bin Saba’, tetapi karena pertimbangan beberapa orang, sehingga Ali hanya mengatur Abdullah bin Saba’ ke al-Madain.

Menurut an-Naubakhti, Abdullah bin Saba’ asalanya beragama yahudi. Ketika masuk Islam, ia mendukung Ali. Dialah orang pertama yang terang-terangan mengisukan kewajiban imamahnya Ali serta berlepas diri (bara’ah) dari musuh-musuhnya.

Dijelaskan pula, bahwa ketika Abdullah bin Saba’ masih beragama yahudi pernah mempopulerkan pendapat bahwa Yusa’ bin Nun adalah pelanjut Nabi Musa. Maka ketika masuk Islam, ia pun berpendapat bahwa Ali adalah pelanjut Nabi Muhammad, faktor inilah yang membuat orang menuduh bahwa sumber ajaran Syi’ah berasal dari Yahudi.

Penjelasan an-Naubakhti ini sekaligus merupakan jawaban terhadap kalangan Syi’ah serta penduduknya, yang mengklaim bahwa Abdullah bin Saba’ hanya tokoh fiktif, ciptaan kalangan ahlus sunnah, yang sumber utamanya dari at-Thabary melalui satu-satunya jalur Saif bin Umar al-Tamimy yang dinilai dha’if.

Kedua, kelompok yang berpendapat, imam pengganti sesudah Ali bin Abi Thalib wafat adalah putranya, Muhammad bin al-Hanafiah, karena dia yang dipercaya membawa panji ayahnya Ali, dalam peperangan di Bashrah.

Mereka mengkafirkan siapa pun yang melangkahi Ali dalam imamah, juga mengkafirkan ahlu Siffin, ahlu Jamal. Kelompok ini disebut al-Kasaniyyah.

Ketiga, kelompok ini berkeyakinan bahwa setelah Ali wafat, imam sesudahnya adalah putranya al-Hasan. Ketika al-Hasan menyerahkan khalifah kepada mu’awiyah bin Abi Sufyan, mereka memindahkan imamah kepada al-Husain, sebagian mereka mencela al-Hasan bahkan al-Jarrah bin Sinan al-Anshari (tokoh Syiah) pernah menuduh Al-Hasan bin Ali ini sebagai musyrik.

Tetapi sebagian Syi’ah berpendapat bahwa sesudah wafat al-Hasan, maka yang menjadi imam adalah putera nya yaitu al-Hasan bin al-Hasan yang bergelar ar-Ridha dari keluarga Muhammad.

Menurut al-Isfahani, dia bersama Ali bin al-Husain Zainal Abidin serta Umar bin al-Hasan dan Zaid bin al-Hasan adalah cucu-cucu Ali bin Abi Thalib yang menyertai al-Husain dalam peristiwa Karbala dan selamat dari pembunuhan.

Fakta historis ini sekaligus membantah informasi yang menyebutkan bahwa satu-satunya keturunan laki-laki Rasulullah SAW atau keturunan laki-laki Ali yang selamat dari pembantaian Karbala hanyalah Ali bin al-Husain Zainal Abidin saja.

Fakta historis tentang adanya perbedaan pendapat bahkan perselisihan internal Syi’ah pada setiap level imam ini, selain disebutkan oleh kalangan Syi’ah sendiri (an-Naubakhti) juga disebutkan oleh Fakhruddin Ar-Razi. Beliau menulis, “ ketahuilah bahwa adanya perbedaan yang sangat besar seperti tersebut di atas, merupakan satu bukti konkrit tentang tidak adanya wasiat teks penunjukkan yang jelas dan berjumlah banyak tentang Imam yang dua belas seperti yang mereka klaim itu.”

Selain adanya kecenderungan berselisih di antara sesama Syi’ah dalam menentukan imam, mereka juga saling mengkafirkan (takfir), serta adanya kecenderungan memberontak (khuruj). Abu Hasan al-Asy’ari, juga mencatat bahwa banyaknya perselisihan internal Syi’ah itu memunculkan tiga firqah Syi’ah yang besar, yang menyempal ke dalam 45 firqah.

Menurut Musa al-Musawi, salah seorang tokoh Syi’ah kontemporer, terjadinya penyimpangan dalam ideologi Syi’ah karena munculnya klaim bahwa khalifah sesudah Rasulullah SAW adalah Ali bin Abi Thalib bedasarkan Nash Ilahi, dan bahwa para sahabat, kecuali sedikit saja telah menyalahi nash ilahi ketika membai’at Abu Bakar.

Juga munculnya ideologi bahwa imam terhadap imamah, seperti dalam konsep Syi’ah Itsna ‘Asyariyah adalah penyempurna Islam, ini semua terjadi sesudah diumumkannya al-Ghaibah al-Kubra (kegaiban permanen) dari imam ke 12 Syi’ah Itsna ‘Asyariyah.

Sampai dewasa ini, Syi’ah Itsna ‘Asyariyah (yang mempercayai duabelas imam) merupakan aliran terbesar Syi’ah. Aliran ini meyakini bahwa Nabi Muhammad SAW telah menetapkan dua belas orang imam sebagai penerusnya. Yaitu : 

1. Ali bin Abi Thalib.
2. Al-Hasan bin Ali bin Abi Thalib.
3. Al-Husain bin Ali bin Abi Thalib.
4. Ali bin al-Husain Zainal Abidin.
5. Muhammad bin Ali al-Bagir.
6. Muhammad ash-Shadiq.
7. Musa bin Ja’far al-Kazhim.
8. Ali bin Musa ar-Ridha.
9. Muhammad bin Ali al-Jawwad.
10. Ali bin Muhammad al-Hadi.
11. Al-Hasan bin Ali al-‘Askari.
12. Muhammad bin al-Hasan al-Mahdi al- muntazar.

(Keterangan: Bahwa sekte Syiah yang masuk ke Indonesia adalah Syiah Imamiyah Itsna ‘Asyariyah, yang banyak melakukan penyimpangan aqidah).