Den är omnämnd för första gången 1387. I den gamla kyrkan fanns på båda sidor av kordörren ett par uthuggna stenhällar, vars figurer var svåra att urskilja. Dock kunde man se i nedre kanten ett liggande djur.
En inskrift på altartavlan upplyste att denna blivit skänkt 1634 av borgmästaren i Malmö, Rost Lebedür och hans hustru Karen Gorrisdotter, för att församlingen unnat deras son Gorris Lebed som hade drunknat i skärgården en viloplats på Tossene kyrkogård.
Den ganska enkla predikstolen var förärad 1641 av ”David Iisobe og Mergretta Slaman, till minne af deris fetter og Syskenebarn, S. Gammel David Schlaman, som döde udi Maji A:o 1635”, och är prydd med deras vapen: två brinnande, korslagda facklor. Tak och läktarbröstnin målades av Christian von Schönfeldt 1737. Kyrkan revs runt 1859-60 eftersom den nya kyrkan stod klar att användas.
Nämnas bör att invid Åby låg i äldre tider en särskild kyrka. Åby kyrka, som enligt Oedmans utsago haft sin plats, där hans tid Åby vedbacke var belägen och där man ofta gjorde fynd av benknotor, dödskallar mm.
Sannolikt har denna ursprungligen varit en s.k. högendes kyrka d.v.s. ett familjekapell. Kyrkan har nedlagts någon gång under 1400-talet eller vid reformationens början eftersom den inte anges i senare kyrkliga jordeböcker.