مسجد اختصاص به آیین اسلام و مسلمانان ندارد و در آیین های الهی گذشته و امت های پیشین هم رایج بوده است. در قرآن کعبه به عنوان اولین معبد مردمی معرفی شده است: «نخستین خانه ای که برای مردم و نیایش خداوند قرار داده شد همان است که در سرزمین مکه است؛ که پر برکت و مایه هدایت جهانیان است.»
طبق روایات، سابقه کعبه به زمان حضرت آدم(ع) برمی گردد. بنابراین سابقه مسجد همان سابقه زندگی بشر در کره زمین است.؛ اما در قرآن اولین کسی که به طور مشخص دست به بنای کعبه زده و آن را تجدید بنا کرد حضرت ابراهیم و فرزندش اسماعیل است که داستانش در آیه ۱۲۷ سوره بقره و آیه ۲۶ سوره حج آمده است و با محوریت این بنای مقدس شهر مکه پدید آمد و به دنبال آن پس از قرن ها پیامبر خاتم و آیین اسلام و امت بزرگ اسلام ظهور کرده است.
همچنین در سوره یونس در آیه ۸۷ می خوانیم: «و به موسی و برادرش وحی کردیم که برای قوم خود خانه هایی در سرزمین مصر انتخاب کنید و خانه هایتان را مقابل یکدیگر قرار دهید و نماز را برپا دارید.» مفسران در تفسیر آیه یاد شده مطالب گوناگونی مطرح کردند از جمله این که گفته اند: مقصود این است که موسی و هارون پس از نابودی فرعون وارد مصر و از سوی خداوند مامور شدند که برای بنی اسراییل مسجد بنا کنند.
گروهی از مفسران گفتند فرعون دستور داده بود که مساجد بنی اسراییل در مصر تخریب شود و آنان را از اقامه نماز منع کرده بود. لذا بنی اسراییل مامور شدند در خانه های خود مساجد و محل اقامه نماز تعبیه و نمازهای خود را در آن اقامه کنند؛ زیرا آنان موظف بودند در هر حال نمازشان را در معابد و مساجد برگزار کنند. این تفسیرها، گویای این حقیقت اند که داشتن مسجد برای اقامه نماز، امری رایج بلکه از ضروریات در آیین موسی بوده است.