Resul-i Ekrem Efendimiz (s.a.v) Medine-i Münevvereye hicret ettiklerinde ilk olarak orada bir mescid yaptırmışlardır. Mescid-i Nebevi’nin inşasına başlanacağı esnada Cebrail (a.s) indi ve duvarlarının yedişer arşın yüksekliğinde olmasını, hiçbir tarafına nakış ve ziynet yapılmamasını ve harcın sade çamurdan ibaret bulunmasını tavsiye etti. Resul-i Ekrem Efendimiz (s.a.v) bir taş alıp temele besmele ile koydular. Sonra Hazret-i Ebubekir (r.a), Hazret-i Ömer (r.a), Hazret-i Osman (r.a) ve Hazret-i Ali’ye (r.a) sıra ile birbiri yanına taşlar koymalarını emir buyurdular. Bunun hikmetini sual edenlere: “Bu zatların halifeliklerine işarettir” buyurdular. Efendimiz Hz. Muhammed (s.a.v), Kıble değiştirildiğinde Mescidü’l-kıbleteynde öğle namazını kıldıktan sonra Mescid-i Nebeviye teşrif buyurdular. Hemen Hazret-i Cebrail (a.s) indi ve: “Ey Allah'ın Resulü! Ben Beytullah ile Mescidiniz arasındaki ağaç ve taşları kaldırdım ve Mescidinizin mihrabını Beytullah’a bakarak yerleştiriniz” dediler. Efendimiz Hz. Muhammed (s.a.v.) Beytullah’ı görerek mihrabın mevkiini bizzat tayin ettiler ve mihrab-ı şerifin Mizab-ı rahmeye (Altın Oluk’a) mukabil olduğunu haber verdiler. Bu vak‘a Bedir gazasından iki ay önce olmuştur.
