1221-ben épült túlnyomó részt a pozsonyi bányákból származó terméskőből és helyben égetett téglából. Nagy múltját igazolja IV. Ince pápa 1254-ből származó oklevele, amelyben a püspöki Szent Miklós egyház plébánosságát Pármai Gerhardnak adományozta.
Az épület korai gót stílusban épült. Építészeti szemszögből a bencés típusú plébániatemplomok mintája nyomán épült. Maga az épület alapvetően egészen a XX. század első harmadáig megtartotta eredeti jellegét.
A szentély keresztboltozatos fedésű. A boltozat eredeti állapotában a sekrestyében is megmaradt. A legrégibb részek kora-gótikus stílusban épültek, ennek jegyeit megfigyelhetjük a szentélyben, a hajó oszlopain és a sekrestyében. A sekrestye mennyezetén páratlan szépségű zárókő tanúskodik a templom értékes építkezéséről. A középső hajót a szentélytől diadalív választja el. 1480-ban újraboltozásra került sor, ami már késő gótikus és meglehetősen hanyag módon történt. A függőleges karcsú bordakötegek a hajók oldalfalán és oszlopain megmaradtak, de a mennyezeten már nem folytatódtak. Fennállása alatt több átalakításon esett át. Jelenlegi állapotában szentélye, sekrestyéje, tornya a XII. század műve, sőt a központi hajó és a közvetlenül mellette levő oldalhajók pillérként meghagyott falrészei is három-négy méter magasságig. Ezt az ott látható eredeti bordamaradványok bizonyítják.
Az épület jelentős károkat szenvedett a törökdúlás idején. Elpusztították a templom régi gótikus berendezését és áldozatul esett a toronyóra is. A templom újabb s nagyobb fokú restaurálása Csáky érsek idejében 1751-1755 közt volt. Ebből a korból származott a XX. Század elejéig használt barokk berendezés.
A XVIII. Században a szentély oldalához hozzáépült Batthyány József érsek oratóriuma ahol papi teendőit végezte valahányszor Püspökin tartózkodott. 1794-ben elkészült az Ormosdy kripta és kápolna, amely a déli hajóból nyílt.
A torony hat gótikus mérműves ablaka fölött liliomszerű kődíszek voltak amelyek mára már eltűntek, helyükre aránylag kisméretű keresztek kerültek. Az eredeti ablakkeretek és az azokat díszítő belső bordázat közül csak egyetlen egy, az északkeleti vészelte át a legutóbbi átalakítást. Megmaradt viszont az a különleges építészeti jellegzetesség, hogy négyszög alaprajzú építmény a harangtérben hatszögűbe megy át.
1889-ben a szentély gyönyörű festett ólomüveg ablakokat kapott, majd 1901-ben a barokk oltárokat neogót stílusúra cserélték ki.
XX. század elején a falu lakóinak megnövekedett létszáma miatt a viszonylag tekintélyes épület szűknek bizonyult. Tyukoss Evangelista János plébános két oldalszárny építésével 1937-ben megnagyobbította az épületet. Sajnos ezt nem előzte meg régészeti feltárás ezért pótolhatatlan értékek mentek veszendőbe. 1950-es években, amikor újrafestették a templom- belsőt a régi vakolatot leverték nem törődve azzal, hogy a belső rétegeiben pótolhatatlan remekművek lehetnek.
A toronyban három harang volt, abból kettőt az első világháború idején leszerelték és hadianyagot készítettek belőle. Ezeket csak később 1921-ben a templom fennállásának 700 éves jubileuma alkalmával pótolták.
A pedálos, egymanuális, 12 regiszteres, pneumatikus orgonát 1910-14 között Mozsny Vince pozsonyi orgonaépítő építette.