Kristendomen kom tidigt till Arby. Den förbiflytande ån hade sedan urminnes tider tjänat som förbindelseled från och till kusten. Därmed fick man kontakter med människor från både när och fjärran.
Under vikingatid synes man ha haft handelskontakt med Birka. Ett för några år sedan utmed ån funnet smycke av brons kunde påvisas vara gjutet i Birka omkring år 950.
En på kyrkogården år 1973 återfunnen runsten från senare av 1000-talet vittnar om, att kristendomen då vunnit insteg. Runstenen har ett stort, välristat kors, som talar om detta. Bevarad del av runslinga kring korset berättar om Bove och ger därmed första kända namnet på en kristen Arbybo.
Första kyrkan torde haft en heden kultplats till föregångare och endast bestått av en ankommen missionärs resealtare, vid vilket man kunde fira mässa. Resealtaret torde altjämt finnas i behåll och utgöras av den välslipade, med invigningskors försedda marmorliknande stenplatta, som finns infälld i nuvarande altarbord.. Det har där fått göra tjänst som täckplatta över en relikgömma.
Inför den restaurering, som avslutades våren 1973, verkställdes genom Riksantikvarieämbetets försorg en grundlig arkeologisk-byggnadshistorisk undersökning av kyrkan unde ledning av antikvarien, fil. lic. Karin Andersson. En av undertecknad sedan några år tillbaka verkställd genomgång av källmaterial från slutet av 1500-talet till nutid och gjorda uppteckningar rörande kyrkans och bygdens historia fick tjäna som komplement till undersökningen. materialet är planerat att gemensamt redovisas i en utgåva om Arby kyrka i serien Sveriges kyrkor. Genom ett bildmontage, som anslutitis till runstenen och liksom denna fått plats i rummet under läktaren, ges ett koncentrat av detta. Därav framgår, att
- En träkyrka torde ha blivit byggd redan vid 1100-talets början. Ett hammarband på nuvarande långhusets sydsida kan ha tillhört träkyrkan.
- Nuvarande stenkyrkans kor torde ha tillbyggts under 1100-talet. Koret har troligen varit en tornbyggnad. En inbyggd trappa finns ännu bevarad i korets norra mur. Absidfönstrets yttre kalkstensomfattning är ursprunglig.
- I nästa etapp byggs långhuset i sten. Anslutes till koret. Träkyrkan rivs. Stenkyrkan färdigställdes i detta skede utan torn i väster och fick öppen takstol. Denna takstol är ännu bevarad.
- I en sista etapp byggdes västtornet. Det gavs samma bredd som långhuset. Tornet kröntes med dubbelhuvar i stil med Rydaholm och Växjö. Uppgång till de övre våningarna skedde genom en i norra muren inbyggd trappa. Denna trappa återfanns vid restaureringsarbetena 1972.
De två sista byggnadsskederna synes ha avslutats under senare hälften av 1200-talet.
Ev. tillkom sakristian samtidigt med tornet i väster.
I samband med de färdigställda medeltidskyrkans invigning torde det bevarade triumfkrucifixet och dopfunten ha anskaffats. Båda hänför sig till denna tid och är arbeten av gotländska mästare. De i koret befintliga invigningskorsen torde minna om samma högtid.
Kyrkan helgades åt S:t Olav. En inskription på storklockan påminner därom; "Anno Domini MCDIII dive Olave et Maria et Christe ora pro nobis." Klockan har alltså årtalet 1403 och är en av landets äldsta i bruk varande kyrkklockor.
Kyrkobyggnaden hade aldrig avsetts att bli ett mausoleum över en tid. Den var avsedd att tjäna som ett levande gudstjänstrum för en levande församling. Därför fortsatte byggargärningen. Några data kan få erinra om detta:
1623 försågs kyrkan med platt innertak. den öppna takstolens tid var därmed förbi. Då ombyggdes även läktaren.
1674 fick kyrkan nya bänkar.
1687 gjordes stora reparationer på kyrkan. Tyvärr saknas detaljuppgifter. Ev. har komplettering av bänkbeståndet gjorts. Dörrarna till de gamla bänkarna är alltjämt i bruk. En av dem har på insidan årtalet 1688 inskuret. Det är säkerligen det år, då den stora reparationeen slutfördes. Samma år målades kyrkan invändigt.
1700-72 var det åter dags för en genomgripande förnyelse av kyrkan. Västtornet med sina tvillinghuvar togs bort. Likaså innervägg, gavelvägg och valven i den bärande, massiva underdelen av tornet. Med tornkammarens införlivande med långhuset förlängdes detta. En stor del av musren mellan långhuset och och koret togs bort, så att öppninge blev större. Koret fick också ny altaruppställning och predikstol, de ännu befintliga. Båda är verk av Jonas Berggren. Fyra nya fönsterluft togs upp på långhusets södra sida och en ny sådan över en dörr, som på samma sida fanns till koret. Norra sidan fick två nya fönsterluft. Ny läktare byggdes.
1821 "nedflyttade" och förstorade man fönstren 2 alnar och föså dem med runda överstycken. Kyrkans platta innertak byttes ut mot valvtak. Predikstolen fick uppgång från sakristain. En ingång till sakristian utifrån höggs upp och försågs med dörr och valv.
1841 byggdes en ny klockstapel, den ännu befintliga.
1852 fick kyrkan sin första orgel.
1876-78 undergick kyrkan en ny, omfattande renovering. Kyrkans golv omlades. Nytt altarskrank byggdes. Bänkarna avtogs i höjd. I samband med denna renovering anskaffades en ny altartavla, målad av prästsonen Waldemar Tode.
1944 blev ännu ett betydande förnyelseår. Kyrkan fick värmeledning med lågtrycksånga samt elektrifierades. Bänkarna omgjordes till större bredd och bekvämhet. Kyrkorummet försågs med nya innerdörrar. Läktaren nyinreddes. Tak, bänkar, altaruppställning ommålades. Bänkdörrarnas ursprungliga färg från 1688 samt förut omnämnda invigningskors framtogs och konserverades.
1955 byggdes en ny orgel på 17 stämmor. Byggare var Troels Krohn, Hilleröd.
1962 väcktes på nytt frågan om kyrkans restaurering. Preliminära åtgärder företogs, men Hagby kyrkas restaurering var förestående. Man beslöt därför vänta tills den var klar.
1968 kunde ärendet återupptas. Beslut om restaureringen fattades, kommitté för dess verkställighet valdes och till arkitekt utsågs liksom i Hagby arkitekten SAR Rolf Bergh, Stockholm. Förkonserveringsarbetena beslöt man anlita konservator Sven Wahlgren, Smålands Taberg.
1969-71 arbetades med ärendet under täta sammankomster och kontakter togs inom kommitté, kyrkoråd och församling samt mellan dessa och berörda myndigheter. Vidare verkställdes förut omnämnd arkeologisk-byggnadshistorisk undersökning av kyrkobyggnaden.
1972 blev det nya restaureringsåret, men även de första månaderna på 1973 fick tagas i anspråk för arbetets slutförande. På pingstdagen den 10 juni återinvigdes kyrkan av kontraktsprosten Helge Westmar, Madesjö.
Denna restaurering har inneburit en upprustning av hela byggnaden, dess inredning och inventarier.
Det tidigare värmesystemet har ersatts med varmvattenuppvärmning. Nya golv har inlagts. Värmeisolering har skett av innertak och golv. Västra väggen har förstärkts. Sakrisitan har inretts med nya skåp.
Den enda egentliga förändring, som skett i kyrkorummet är, att man på nytt under läktaren uppfört en vägg, motsvarande den som revs vid 1770-talets restaurering för att då utöka kyrkorummet. Genom denna vägg har man vunnit, att kyrkorummet återfått sina ursprungliga riktiga proportioner samtidigt som man vid västra ingången erhållit ett välbehövligt förrum. Här har man också kunnat inreda kapprum, förråd till städ och en handikappvänlig toalett. En nyordnad uppfartsramp för rullstolsbundna har också ordnats till västra ingången.
I nyutvunna rummet har en bekväm trappa byggts till läktaren. Läktarplanet bakom orgeln har genom sänkning ordnats så, att man fått anslutning till återfunna medeltida trappan i norra muren.
Inne i kyrkan fäster man sig kanske främst med nyordningen med bänkarna. Nya gångar har tagits upp, bänkarna har gjorts mera sittvänliga och har liksom hela kyrkan givits varmare färger. Färgsättningen har skett efter samråd mellan arkitekt, konservator och restaureringskommitté.
Men det som kanske framför allt ger den gamla kyrkan dess nya skönhet, är nog fönstren. Riksantikvarieämbetet tillät inte, att de stora 1800-talsfönstren minskades ner. Då lät arkitekterna fönstren på norrsidan få en mycket grov träinramning och amtta rutor. Därigenom får man ett mycket vackert ljusinsläpp från söder.
Altaruppsatsen har flyttats fram c:a 30 cm och man kan nu gå runt densamma. Den har återfått sin ursprungliga tavla, vars motiv är J. Marie Bebådelse. Tavlan från 1877 har fått den plats "Series pastorum" haft på norrväggen. Series pastorum har i sin tur givits plats på korväggen till vänster om ingången till sakristian.
En ny piscina, utförd av en slopad bjälke från läkrargolvet, har placerats på norra sidan innanför altarskranket. Piscinan har skål och avloppsrör av koppar. Den har tillverkats och skänkts av byggnadsingenjören Swen Zachrison, Berghs arkitektkontor, vilken till större delen svarat för de byggnadstekniska arbetena med kyrkan och jämväl tjänstgjort som kontrollant.
Altarskranket har ändrats så, att en öppning gjorts mitt för altaret.
Predikstolen har sänkts c:a 35 cm.
Dopfunten har fått en ny fot, tillverkad av bjälkar från det gamla kyrkgolvet. Foten har en ram av furu. I denna har lagts kubbstockar. Funten har fått en ny plats vid sydöstra hörnan av långhuset. Fastän kuppan tidigare blivit nedhuggen, är funten alltjämt en utomordentligt fin representant för de fyrlobiga gotländska paradisfuntar, som men sin formgivning konkretiserar både skapelse och frälsning. En förnäm dopskål hör sedan 1730-talet till densamma.
Som dopljusstake får medendels en påskljusstake fungera. Denna är gjord av en träpelare, som ingått i ett gallerverk för koret, som Jon Snickare år 1613 satte upp där. Fot och ljushållare till pelaren har gjorts av konstnärinnan Eva Spångberg. Hon har också svarat för färgsättningen.
Den stora gravhällen, som troligen vid 1821 års restaureringplacerats i mittgången framför altarringen, har nu placerats jämns med golvet vid predikstolen för att inte utsättas för så stark nötning. Den avser proviantmästaren Johan Törnebohms å Södra Gåra familjegrav. Synes ha varit en ledande man vid kyrkns restaurering 1687/88. Hans hustru Christina skänkte till hans minne 1701 en ännu brukad kollekthov.
"Moraklockan" från 1811 har fått behålla sin gamla plats vid ingången till sakristian.
Timgalset från 1700-talet och en Karl XII:s bibel har återplacerats på predikstolen.
Kyrkans textiler har under restaureringstiden fått avstå från nyanskaffningar för att bättre kunna anpassas till förnyade kyrkorummet. En vit mässhake har dock nyanskaffats 1965 genom kyrkans minnesfond. Den har komponerats av textilkonstnärinnan Ann-Mari Hoke, kalmar. Äldsta mässhaken är en svart från 1848. En märklig textil utgör en 1958 påträffad och av godsägare A. Wulfs sterbhus skänkt brevväska från slutet av 1600- eller början av 1700-talet. Den har tydligen haft kyrklig textil till förebild. Något av en kyrklig textilhistoria fanns på den tiden med representanter på gårdarna Applerum, Gåra, Gräsgärde och Resby. En kollekthov från Gåra är redan nämnd. En andra sådan tillverkades och skänktes 1728 av inspektor Weinbergs dotter Emerentia Weinberg, Applerum. Hon var mycket flitig skapare av förnäm kyrklig textil.
Till denna sista upprustning och förnyelse av kyrkan hör också, att helt ny el-installation har utförts inom och utom kyrkan. Kyrkans gamla armaturer har använts efter översyn och har kompletterats med nya armaturer av samma typ. till det nya hör, att ljuskronorna flyttats från mittgången och fördelats över bänkkvarteren.
Ljussköldarna för levande ljus har återsatts på sina gamla platser efter översyn.
Nya belysningsstolpar med klara, klotformiga armaturer har uppsatts kring kyrkan.
Kyrkans yttertak har översetts och tjärstrukits.
Utvändigt har hela kyrkan kalkats vit.
Så har Arby gamla kyrka på nytt blivit en skön kyrka. Församlingens egen byggmästare, Lennart Johansson, jämte medentreprenörer har svarat för ett i detalj gediget arbete.
Arkitekten, liksom församlingens målsättning för restaureringen har varit: "En levande kyrka för en levande församling!". DEn målsättningen har infriats. Påtagligt och engagerande får man här uppleva, hur liturgien går som ett heligt band inte bara genom de 900 åren sedan Boves dagar intill nuet utan från urkyrkan, ja, från världens skapelse till dess undergång och slutliga nyfödelse.
Med pelarstoder tolv står Herrens helga kyrka. Och Jesus Kristus är dess grundval och dess tyrka. Där fogas sten vid sten, där bygges år från år. Till dess vid tidens slut Guds hus fullkomnat står. - Sv. Ps 164:1