Setelah Nabi Ismail bersetuju untuk membantu Nabi Ibrahim membangunkan Kaabah, maka Nabi Ibrahim bersama dengan anaknya pun mula membina Kaabah setelah Allah S.W.T menunjukkan kepada mereka tempat yang harus dibina Baitullah itu.
Ada dua riwayat yang mengatakan bahawa Allah S.W.T meninggikan tapak Baitullah sebelum dibina oleh Nabi Ibrahim dan anaknya, tapak Baitullah tidak terkena bala bencana taufan sewaktu taufan besar melanda.
Satu riwayat lagi mengatakan bahawa tapak Baitullah itu telah runtuh dalam taufan besar sepertimana runtuhnya binaan-binaan besar yang lain. Setelah peristiwa taufan besar melanda maka sesungguhnya tidak ada orang lain yang mulakan pembinaannya semula kecuali Nabi Ibrahim dan anaknya.
Nabi Ibrahim dan Nabi Ismail memulakan pembinaan Baitullah. Nabi Ibrahim menyusun naik batu sementara Nabi Ismail pula mengutip batu-batu besar seperti yang difirman oleh Allah S.W.T yang bermaksud, "Dan (ingatlah) ketika Nabi Ibrahim bersama-sama anaknya Nabi Ismail meninggikan binaan (tapak) Baitullah (Kaabah) sambil keduanya berdoa dengan berkata, Wahai Tuhan kami! Terimalah, daripada kami amal kami sesungguhnya Engkau amat mendengar lagi Amat Mengetahui." (surah al-Baqarah ayat 127).
Apabila binaan sudah meninggi, Nabi Ismail, menghulurkan batu besar yang cukup tinggi dan diambil oleh Nabi Ibrahim dan membina Baitullah sehingga ia siap pembinaannya. Maka dengan kehendak Allah S.W.T sebaik sahaja Nabi Ibrahim meletakkan kakinya di batu besar itu, maka terlekatlah tapak kaki Nabi Ibrahim sepertimana dapat kita melihatnya sehingga hari ini dekat Baitullah. Dan ini adalah suatu tanda kebesaran Allah S.W.T.
Apabila agama Islam datang, Allah S.W.T mensyariatkan untuk bersembahyang di belakang maqam Ibrahim sepertimana firman Allah yang bermaksud, "Dan jadikanlah oleh kamu maqam Ibrahim itu tempat sembahyang." (surah al-Baqarah ayat 125).
Yang dikatakan maqam Nabi Ibrahim itu adalah kedua belah bekas tapak kaki beliau dan bukan kubur Nabi Ibrahim.
Setelah selesai pembinaan Baitullah, maka Allah S.W.T memerintahkan Nabi Ibrahim memberi kebenaran kepada umat manusia menunaikan haji di Baitullah. Firman Allah S.W.T yang bermaksud, "Dan serulah umat manusia untuk datang mengerjakan haji, nescaya mereka akan datang ke (Rumah Allah)mu dengan berjalan kaki, dengan berkenderaan berjenis-jenis unta yang kurus, yang datangnya dari berbagai jalan (ceruk rantau) yang jauh." (surah al-Haj ayat 27).
Setelah itu Nabi Ibrahim naik ke gunung (Jabal) Abi Qubais satu gunung yang paling dekat dengan baitullah dan di sana beliau memanggil dengan nama Allah, "Wahai sekalian manusia, sesungguhnya Tuhan kamu telah membina satu rumah-Nya bagi kamu, oleh itu hendaklah kamu semua tunaikan haji di sana."
Nabi Ibrahim menyeru ke kanan dan ke kiri seolah-olah orang melaungkan azan. Allah S.W>T menyampaika seruan Nabi Ibrahim a.s pada setiap orang yang diciptakan dalam bacaan talbiah dan itulah pernyataan semua orang yang mengerjakan fardhu haji, kerana haji itu tidak akan sah tanpa talbiah.
Bacaan talbiah antara lainnya, "Labbaikallahhummalabbaik" yang bermakna, aku datang untuk menunaikan panggilan-Mu ya Allah.
Menunaikan haji adalah salah satu rukun Islam, oleh itu hendaklah kita menunaikannya apabila kita sudah mampu melaksanakannya. Banyak orang menunaikan haji, tetapi sekembali mereka dari menunaikan haji yang sangat menyedihkan ialah terdapat juga orang yang melakukan maksiat lebih teruk dari masa sebelum menunaikan haji. Oleh itu, hendaklah kita mulakan dengan sembahyang, puasa, zakat dan seterusnya menunaikan haji.
Kalau kita menunaikan haji tanpa mengerjakan sembahyang lima waktu maka sia-sia sahaja haji yang kita lakukan sebab ia tidak akan diterima oleh Allah S.W.T. Dan ini adalah salah satu punca mereka yang kembali dari menunaikan haji melakukan bermacam-macam maksiat.
Bagi mereka yang mendapat kenikmatan haji mereka ini tidak akan berani melakukan kerja-kerja yang dimurkai oleh Allah S.W.T sebaliknya mereka akan berusaha untuk menjadi muslim yang sempurna. Tanpa mengerjakan sembahyang, maka semua kerja-kerja yang berbentuk amal, sedekah, zakat dan sebagainya semuanya itu tidak akan diterima oleh Allah S.W.T.