Lilla Malma kyrka uppfördes under 1100-talet, då med måttet 9 x 6 meter. I dag finns det så kallade långhuset bevarat och bildar den västra hälften av kyrkan.
Under 1300-talet byggdes kyrkan ut, koret revs och kyrkorummet förlängdes, nu till en längd på 16 meter.
År 1746 utvidgades kyrkan åt norr genom en utbyggnad, som vi i dag kallar för Nykyrkan.
Under 1890-talet gjordes en genomgripande ombyggnad då det gamla koret av trä revs och återuppbyggdes i tegel. Fönster gjordes större, de gamla gavlarna revs och ersattes av trappgavlar. Inne i kyrkan, i koret och i Nykyrkan byggdes nya valv.
År 1897 tillkom målningarna i medeltida stil, som smyckar valven, även den gamla vackra glasmålningen i fönstret ovanför altaret är från 1897.
År 1957 skedde den senaste stora ombyggnaden av kyrkan. Då förlängdes kyrkan åt väster med det nuvarande vapenhuset, orgelläktaren och en trappa ner gjordes ett rum iordning som i dag används som väntrum för brudpar och dopfamiljer.