בזמן שבית המקדש היה קיים, היו עיני כל ישראל נשואות אליו. הוא היה מרכז החיים הרוחניים של העם.שלוש פעמים בשנה היו עולים אליו לעבוד את השם ולהתפלל לפניו. משחרב בית המקדש ואתו בית הכנסת שהיה בו וגלו ישראל מעל אדמתם, נולד הצורך בבית תפלה מיוחד. כך נוסד "בית הכנסת" כמקום תפילה ומרכז רוחני.
חכמים הפליגו בחשיבותו של בית הכנסת עד שאסרו לגור בעיר שאין בה בית כנסת [סנהדרין יז ע"ב]. במעגל החיים של האדם היהודי יש לבית הכנסת מקום חשוב ביותר ואליו הוא מגיע לקיים את מצוות התפילה ולהתכנסות בציבור.
יש סוגים שונים של בתי כנסת. בכל עיר ועיר יש 'בית הכנסת הגדול' שאליו מגיעים הרב הראשי, החזנים המפורסמים וכיו"ב, ויש בתי כנסת לעדות שונות, כגון לנוסח החסידי הליטאי, הספרדי ועוד. יש גם בתי כנסת קטנים, כמעט משפחתים, שפוקדים אותם תושבי שכונה מסוימת בלבד ולפעמים תושבי רחוב מסוים בלבד.
בבתי בכנסת העדתיים התפילה היא בסגנון אותה עדה. ואולם יש בתי כנסת שהתפילה בהם היא בנוסח אחיד ועשויים להשתלב בה יהודים מכל תפוצות ישראל.
יש בתי כנסת השוכנים במבנים מפוארים ויש ש'קנקנם' דל למראה, בבחינת מעט המחזיק את המרובה.
יש גם בתי כנסת הממוקמים בבתים פרטיים עד שיימצא להם מבנה קבע. ובמרחב המגוון הזה של בתי כנסת, כל אדם יכול למצוא את מקומו.