現地を訪れた際、建築物や祀られている対象を見るだけで、そこがお寺なのか神社なのかを瞬時に判別できます。もっとも象徴的なのが「入り口の門」と「本堂・本殿の内部」です。
入り口で見分ける最大の目印が「鳥居」と「山門」です。神社には必ず鳥居が立っています。鳥居は人間が暮らす俗界と、神様が鎮座する聖域（神域）とを隔てる「結界」の役割を果たしています。対してお寺の入り口にあるのは重厚な屋根を持つ「山門（三門）」です。山門は寺院の正門であり、煩悩を払い心を清めて境内へ入るための関門を意味しています。
祀られている対象も根本から異なります。神社でお祀りするのは目に見えない神様が宿る「御神体」です。鏡、剣、勾玉、あるいは山や巨石（神体山・磐座）そのものが御神体とされ、本殿の最奥に厳重に納められているため、一般の参拝者が直接目にすることは原則としてありません。
一方のお寺の本堂には、釈迦如来、阿弥陀如来、薬師如来、観音菩薩といった「仏像（本尊）」が安置されています。仏像は拝む対象である仏の姿を具現化したものであり、参拝者はその慈悲深い姿を直接仰ぎ見ながら手を合わせます。
なお、日常会話でよく使われる「寺社仏閣（じしゃぶっかく）」という言葉は、神社を意味する「寺社（あるいは社）」と、寺院の建物を意味する「仏閣」を組み合わせた総称です。どちらか片方を指す言葉ではなく、日本の伝統的な宗教建築全般を指す表現として用いられています。
