De Alexanderkerk kwam op de uitloper van een zandrug van Rinsumageest tot stand. De bouw van de grotendeels van tufsteen opgetrokken romaanse kerk is in de 11de eeuw begonnen. Toen is het koor gebouwd, in de 12de eeuw gevolgd door de bouw van het schip met twee smalle zijbeuken en de gelijktijdige verhoging van het koor. Het halfrond gesloten koor was aanvankelijk iets hoger dan de reeks rondboognissen, afwisselend gekoppeld en enkel, met één klein rondboogvenster. De driebeukige kerk die werd toegevoegd bestond uit een schip met lichtbeuk, voorzien van rondboogvensters die iets groter waren dan die in het koor en twee vrij lage, aangekapte zijbeuken die mogelijk langs de koortravee doorliepen. Het schip en de beuken waren van elkaar gescheiden door zware, rechthoekige pijlers met lijstkapitelen die ronde scheibogen in fraaie sikkelvorm dragen. Van de dichtgezette doorgangen zijn in de huidige noordmuur vier traveeën tussen koor en toegangspoort zichtbaar. In de koortravee van het oudste gedeelte van het noordelijke muurwerk zitten drie hoge nissen.
Bovenin staan twee kleine vensters waarvan het rechtse gaaf bewaard is gebleven. In dit muurwerk zijn bovendien een venstertriplet van rondbogen uit de 13de eeuw en een, later met rode baksteen dichtgezet, spitsboogvenster uit de 15de eeuw ingebroken. Beide muuropeningen waren waarschijnlijk hagioscopen, sacraments- of reliekvensters die van buiten zicht op het vereerde binnen boden. Naast deze vensters is in de muurdam tegen het schip een kleine rondbogige poort gemaakt die mogelijk de verbinding vormde naar het schip vanuit de langs deze gevel voortgezette zijbeuk.
Onder het verhoogde koor bevindt zich een crypte, de enige in het noorden van Nederland. Deze met ribloze kruisgewelven gedekte crypte is klein en neemt alleen de ruimte in van de apsis en een klein stuk van de koortravee. Dat gedeelte is omwille van de ingegraven ruimte zes treden verhoogd.
De vloer van de crypte ligt veel dieper dan de fundering van het koor en zij moet later zijn ingegraven. Er wordt aangenomen dat het pas in de 16de eeuw is gebeurd, maar dan is het wel uitgevoerd met oude materialen en in een voor die tijd ouderwetse stijl. De basementen en lijstkapitelen van de zes wandpilasters zijn van tufsteen. De twee vroeg 13de-eeuwse middenzuilen hebben schachten en dekstenen op de kapitelen van kalksinter, een soort ‘ketelsteen’, afkomstig uit een Romeinse waterleiding. De fraai gedecoreerde teerlingkapitelen zijn van Caensteen.
Omstreeks 1525 is de kerk sterk vergroot door de vervanging van de zuidelijke zijbeuk door een nieuwe, laatgotische en aan de oostzijde rechtgesloten beuk. Deze beuk is iets breder en werd aan de westzijde een travee langer dan het oorspronkelijke schip. De smalle noordelijke zijbeuk is toen gesloopt en de scheibogenmuur met tufsteen gesloten. De nieuwe beuk, eigenlijk een tweede schip, is uitwendig opgetrokken van hergebruikte tufsteen aangevuld met baksteen, waarin ook latere reparaties zijn uitgevoerd. In de zuidmuur staat in het westen een spoor van een dichtgezette spitsbogige ingang met daarboven een ingekort spitsboogvenster met vorktraceringen. De andere grote vensters hebben later een indeling van hout gekregen. Onder een diepe nis in de sluitmuur is een zandstenen epitaaf aangebracht voor Siids Thiarda en diens vrouw (overleden 1545 en 1557), bewoners van de nabijgelegen Tjaardastate. Het is het vroegste epitaaf in Friesland in klassieke renaissancevormen. De uit de 13de eeuw daterende zadeldaktoren is, getuige de met rolwerk versierde gevelsteen, in 1610 belangrijk vernieuwd en er is toen ook een traptoren bij geplaatst.
Inwendig zijn schip en zuidbeuk gescheiden door een colonnade van drie korte en zware bakstenen zuilen die vier spitsbogige scheibogen dragen. Daartussen overspannentwee houten tongewelven de ruimte. In de kerkvloer liggen gebeeldhouwde zerken, waaronder een laatgotische met evangelistensymbolen en een grote renaissancezerk met perspectivistische architectuur uit 1561. In de dooptuin tegen de zuidwand van de zuidbeuk staat de 19de-eeuwse preekstoel met klankbord. In deze beuk is tegen de oostelijke sluitgevel het door Bakker & Timmenga in 1892 gebouwde orgel op een galerij geplaatst.
