मस्जिद-ए-नबवी का निर्माण पैग़म्बर मुहम्मद ने सन् 622 अथवा 623 में करवाया था। मूल मस्जिद आयत आकार का था। पूर्व से पश्चिम इसकी चौड़ाई 63 क्यूबिट (30.05 मीटर) थी और उत्तर से दक्षिण इसकी लम्बाई 70 क्यूबिट (35.62 मीटर) थी। ये कच्ची ईंटों से बनाया गया था और इसकी छत ताड़ के पत्तों और मिट्टी की थी और इसमें ताड़ के तनों से खम्बों बनाए गए थे। छत 7 क्यूबिट (3.60 मीटर) ऊँची थी। बराम्दा खुला छोड़ा गया था। सन् 628 में ख़ैबर की जंग में विजय के बाद इसमें उत्तर, पूर्व और पश्चिम की ओर विस्तार किया गया और यह लगभग 93 क्यूबिट का वर्ग बन गया।[1]

प्रथम ख़लीफ़ा अबु बकर के समय में मस्जिद में कोई ख़ास बदलाव नहीं किये गए। सन् 639 में दुसरे ख़लीफ़ा उमर इब्न अल-ख़त्ताब ने मस्जिद में पुनः विस्तार किया और मस्जिद पूर्व से पश्चिम 113 क्यूबिट चौड़ी और उत्तर से दक्षिण 130 क्यूबिट लम्बी कर दी गयी। छत को 11 क्यूबिट (5.6 मीटर) ऊँचा कर दिया गया।[2]

तीसरे ख़लीफ़ा उसमान बिन अफ़्फ़ान ने सन् 649 में पुरानी इमारत को तुड़वा कर मस्जिद का पुनर्निर्माण कराया। पुनर्निर्माण में दस महीने लगे। उत्तर से दक्षिण मस्जिद 160 क्यूबिट (81.40 मीटर) थी और पूर्व से पश्चिम 123 क्यूबिट (62.58 मीटर)। इस निर्माण में दीवार पत्थर और चिनाई के मसाले की बनाई गयी थी और पुराने खम्बों की जगह लोहे के खम्बों का प्रयोग किया गया था। छत का निर्माण टीक लकड़ी से किया गया।[3]