Dalam buku berjudul Sejarah Madinah Munawwarah yang ditulis Dr Muhammad Ilyas Abdul Ghani, dijelaskan masjid ini direnovasi besar-besaran pada 1986.
Kala itu, Pemerintah Arab Saudi mengeluarkan dana hingga 90 juta Riyal Saudi untuk memperluas masjid ini yang bisa menampung 20 ribu orang.
Quba awalnya hanya terdiri atas hamparan kebun kurma. Kemudian, dikumpulkanlah batu-batu dan disusun menjadi masjid yang sangat sederhana.
Meskipun tak seberapa besar, paling tidak bangunan ini bisa menjadi tempat berteduh bagi rombongan Rasulullah. Mereka bisa beristirahat kala siang hari dan mendirikan shalat dengan tenang.
Rasulullah Saw meletakkan batu pertama tepat di kiblatnya dan ikut menyusun batu-batu hingga bisa menjadi pondasi dan dinding masjid.
Rasullullah SAW dibantu para sahabat dan kaum Muslim. Ammar menjadi pengikut Rasulullah yang paling rajin dalam membangun masjid ini.
Tanpa kenal lelah, ia membawa batu-batu yang ukurannya sangat besar, hingga orang lain tak sanggup mengangkatnya.
Ammar mengikatkan batu itu ke perutnya sendiri dan membawanya untuk dijadikan bahan bangunan penyusun masjid ini. Ammar memang selalu dikisahkan sebagai prajurit perkasa bagi pasukan Islam. Dia kemudian mati syahid di usia 92 tahun.
Baca juga: JCH Banda Aceh 565 orang, empat di antaranya 90 tahun ke atas
Data yang diperoleh, luas kebun kurma yang dijadikan areal masjid kala itu 5.000 meter persegi dan masjidnya baru sekitar 1.200 meter persegi. Rasulullah turun tangan mengonsep desainnya.
Meskipun sederhana, Masjid Quba dianggap contoh bentuk masjid-masjid selanjutnya. Bangunannya kala itu sudah memenuhi syarat untuk pendirian masjid.
Masjid ini memiliki sebuah ruang persegi empat dan berdinding di sekelilingnya. Di sebelah utara dibuat serambi untuk tempat shalat.
Dulu, ruangan ini bertiang pohon kurma, beratap datar dari pelepah, dan daun kurma yang dicampur dengan tanah liat. Di tengah ruang terbuka dalam masjid yang kemudian biasa disebut sahn terdapat sebuah sumur tempat wudhu.
Para mutowwif atau orang yang membimbing tawaf; pembimbing tawaf; pemandu tawaf, atau pemandu wisata di Tanah Suci sering menjelaskan kepada jamaah umrah tentang ganjaran shalat di masjid ini.
Katanya, pahalanya sangat besar. Jika shalat sunnah di masjid itu, bagi semua orang akan mendapat pahala sama nilainya dengan orang yang menunaikan ibadah umrah.
Karena itu, ketika menunaikan ibadah umrah, banyak orang mengambil kesempatan shalat sunnah di masjid bersejarah itu.