Hz. Ali küçük yasindan beri Resulullah'in yaninda büyüdü. On yasinda islâm'i kabul ettigi bilinmektedir. Hz. Hatice'den sonra müslümanligi ilk kabul eden odur. Hz. Peygamber ile Hz. Hatice'yi bir gün ibadet ederken gören Hz. Ali'ye Peygamberimiz sirkin kötülügünü, tevhidin manasini anlattiginda Hz. Ali hemen müslüman olmustu. Mekke döneminde her zaman Resulullah'in yanindaydi. Kâbe'deki putlari kirmasini söyle anlatir: "Bir gün Resul-u Ekrem ile Kâbe'ye gittik. Resul-u Ekrem omuzuma çikmak istedi. Kalkmak istedigim zaman kalkamiyacagimi anladi, omuzumdan indi, beni omuzuna çikardi ve ayaga kalkti. Kendimi istesem ufuklari tutacak saniyordum. Kâbe'nin üzerinde bir put vardi, onu sagdan soldan ittim. Put düstü, parça parça oldu. Resulullah'in omuzlarindan indim. ikimiz geri döndük." (Ahmed b. Hanbel, Müsned, I, 384).