Det finns många lokala sägner kring byggandet av kyrkan i Hyby. Gemensamt har de att den ursprungligen skulle ha legat på en annan plats, antingen i Hyby eller i Vismarlöv. Ofta handlar det också om att byggmaterialet flyttats nattetid av osynliga makter. Hursomhelst uppfördes kyrkan i Hyby i slutet av 1100-talet.
Kyrkan var ganska stor för sin tid och försågs under 1700-talet med korsarmar åt både norr och söder samt med kyrktorn. Tornet kan eventuellt ha härstammat från 1500-talet, här går uppfattningarna isär. Efter tornets tillkomst mätte kyrkan 34 meter lång. Tornet var också av ansenlig höjd och ser imponerande ut på en teckning över Hyby by från 1800-talets mitt.
9 september 1873 härjade ett oväder över skånska slätten och blixten slog ned i den höga kyrkspiran. Branden var ett faktum och byborna hade fullt upp att rädda kyrksilver, altartavla, triumfkrucifix m m. Det enda som gick att rädda av själva kyrkobyggnaden var koret och övriga ruiner revs.
I den nu kvarvarande delen av kyrkan är det västra koret från 1100-talet och det östra troligen från 1400-talet då kyrkan också fick sina kalkmålningar. Eventuellt tillkom fönsterdesignen vid samma tid. Kalkmålningarna tillskrivs Harriemästaren och föreställer i östra koret Jesu död på Golgata, apostlarna med attribut samt yttersta domen, komplett med smådjävlar och allt. I triumfbågen syns resterna av en bild föreställande kyrkans skyddshelgon sankt Nicolaus.
Efter branden flyttades altartavlan från tidigt 1800-tal till Trollenäs kyrka. En äldre altartavla som hängt i en av korsarmarna försvann i branden. Triumfkrucifixet fick så småningom sin plats i Hyby nya kyrka. Hyby var för övrigt den första kyrkan i Bara härad som fick orgel, detta redan 1765.
Mellan 1873 och slutet på 1930-talet tjänstgjorde det kvarvarande koret som gravkapell åt familjen Trolle på Klågerups slott. Västra delen tjänstgjorde ett par år som bårhus. På 1940-talet var kistorna i gravkoret i för dåligt skick och flyttades därför ner i en grav under korgolvet. Kistplattorna monterades upp på en tavla i kyrkan. Sedan 1951 används kyrkan återigen som församlingskyrka.
Hyby gamla kyrka fungerar utmärkt till både dop, vigsel och begravning. I kyrkan finns plats för 45 personer. I koret kan blir det trångt vid exempelvis begravningar.