হজরত ইবরাহিম আ. স্ত্রী হাজেরা ও সন্তান ইসমাঈলকে নিয়ে সিরিয়ায় বসবাস করতেন। আল্লাহর আদেশে তিনি স্ত্রী ও সন্তানকে মক্কার মরুভূমির একটি নির্জন জায়গায় নিয়ে রাখেন। আল্লাহর আদেশের পর জিবরাঈল আ. বোরাক নিয়ে আগমন করলেন এবং ইবরাহিম আ., ইসমাঈল ও হাজেরা আ.-কে নিয়ে আল্লাহর নির্দেশিত জায়গায় রেখে আসার জন্য রওয়ানা হলেন।
পথিমধ্যে কোনো জনপদ দৃষ্টিগোচর হলে ইবরাহিম আ. জিবরাঈল আ.-কে জিজ্ঞেস করতেন এটাই কি সেই জায়গা? উত্তরে তিনি জানাতেন এটা সেই জায়গা নয়, আপনার গন্তব্যস্থল আরও সামনে। এভাবে পথ চলতে চলতে অবশেষে তারা মক্কায় পৌঁছালেন। তৎকালীন সময়ে সেখানে কাঁটাযুক্ত বন-জঙ্গল ও বাবলা গাছ ছাড়া কিছুই ছিল না। তখন আল্লাহর ঘর সেখানে টিলার আকারে বিদ্যমান ছিল।
জায়গাটি দেখিয়ে জিবরাঈল আ. তাদের জানিয়ে দিলেন এটিই হলো আল্লাহর নির্দেশিত স্থান। এই জনমানব শূন্য স্থানে আল্লাহর আদেশে হাজেরা আ. ও ইসমাঈল আ.-কে একাকী রেখে গেলেন ইবরাহিম আ.।
চলে যাওয়ার সময় ইবরাহিম আ. আল্লাহর কাছে ফরিয়াদ জানিয়েছিলেন, হে আল্লাহ! এই স্থানকে আপনি শান্তিময় করে দিন এবং আমার সন্তানকে মূর্তিপূজা থেকে দূরে রাখুন। একইসঙ্গে তিনি এই জায়গাকে আবাদের উপযোগী করার দোয়া করেন। তার সেই দোয়া বর্ণিত হয়েছে সূরা হজের ৩৬ ও ৩৭ নম্বর আয়াতে।
ইবরাহিম আ. তাঁদের জনমানবহীন প্রান্তরে রেখে যাওয়ার পর আল্লাহর কুদরতে সেখানে জমজম কূপ সৃষ্টি হয়। এরপর শিশু ইসমাঈল বড় হওয়ার পর আল্লাহ তায়ালা ইবরাহিম আ.-কে সেখানে কাবাঘর নির্মাণের আদেশ দিলেন।
আল্লাহর আদেশের পর ইবরাহিম আ. শিশু ইসমাঈল আ.-কে জানালেন আল্লাহ আমাকে একটি কাজের নির্দেশ দিয়েছেন। এতে তুমি আমাকে সাহায্য করবে। ইসমাঈল বাবার কাজে সাহায্যের জন্য রাজি হলেন।
আল্লাহ তায়ালা জিবরাঈল আ.-এর মাধ্যমে ইবরাহিম আ.-কে আগেই কাবার চারপাশের সীমানা জানিয়ে রেখেছিলেন। পিতাপুত্র মিলে সেখানে কাজ শুরু করলে কাবাঘরের প্রাচীন ভিত্তি বের হয়ে আসে। এর ওপরই তারা নির্মাণ কাজ শুরু করলেন।
ইসমাইল আ. পাথর নিয়ে আসতেন এবং ইব্রাহিম আ. নির্মাণকাজ সম্পন্ন করতেন। একপর্যায়ে কাবার দেয়াল যখন উঁচু হয়ে গেল তখন আল্লাহর কুদরতি 'লিফট' পাথর- 'মাকামে ইব্রাহিমে'র মাধ্যমে তিনি নির্মাণকাজ সম্পন্ন করেন।
ইতিহাস ও হাদিস থেকে জানা যায়, হজরত ইবরাহিম ও ইসমাঈল আ. কাবাঘরের পুর্ননির্মান করেছিলেন। কারণ, হজরত আদম আ.-এর সৃষ্টির ২ হাজার বছর আগে আল্লাহর হুকুমে ফেরেশতারা এই ঘর নির্মাণ করেন। আদম আ. পৃথিবীতে আসার পর আল্লাহ তায়ালার হুকুমে পুনরায় কাবাগৃহ নির্মাণ করেন এবং কাবাকেন্দ্রিক বিভিন্ন ইবাদত-বন্দেগির নির্দেশ পান।
হজরত নূহ আ.-এর যুগে মহাপ্লাবনে এই ঘর নিশ্চিহ্ন হয়ে গেলে আল্লাহ তায়ালার নির্দেশে কাবাঘর পুনর্নির্মাণ করেন হজরত ইব্রাহিম আ. ও তার ছেলে হজরত ইসমাইল আ.।
সর্বাধিক নির্ভরযোগ্য ঐতিহাসিক তথ্য মতে, কাবাকে এ পর্যন্ত ১২ বার পুনর্নির্মাণ করা হয়েছে। প্রাকৃতিক দুর্যোগ ও শত্রুদের আক্রমণের কারণে বিভিন্ন সময় সংস্কার করার প্রয়োজন দেখা দেয়। যারা এই মহান কাজে অংশগ্রহণ করেন তাঁদের মধ্যে অন্যতম হলেন- হজরত আদম আ., হজরত ইব্রাহিম আ. ও সহযোগী হিসেবে হজরত ইসমাইল আ., আমালিকা সম্প্রদায়, জুরহুম সম্প্রদায়, বিখ্যাত কুরাইশ বংশ।
এরপর যথাক্রমে হজরত আবদুল্লাহ ইবনে জুবায়ের ও হাজ্জাজ বিন ইউসুফ এবং ওসমানিয়া খেলাফতের বাদশা মুরাদের নাম উল্লেখযোগ্য। সর্বশেষ ১৯৯৬ সালে কাবায় বিভিন্ন ইবাদত ও তাওয়াফ আরামদায়ক করার লক্ষ্যে আধুনিক ও উন্নত পাথরের ব্যবহারে কাবা চত্বরসহ বেশ কিছু উন্নয়নের কাজ করা হয়।