By gamla kyrkogård
Den ursprungliga delen av By kyrkogård är den som finns i direkt anslutning till kyrkan från 1793. Så småningom var detta område fullt och på 1850-talet tog man därför i anspråk den del norr om kyrkan som gränsar mot prästgården.
På den gamla kyrkogården vilar bland andra författaren Carl Larsson i By (1877-1948). På kyrkogården finns dessutom ett större antal bergsmansgravvårdar från 1700- och 1800-talen.
Ett mindre område på den gamla kyrkogården är avsatt som minneslund. Den invigdes 1990.
I samband med att By nya kyrkogård togs i bruk 1893 planerade man om den gamla kyrkogården, som fram till dess var karg och ogästvänlig. Nu försågs den med grusgångar och planterade alléer med lindar, som i dag vuxit upp till stora, lummiga träd som ger karaktär åt kyrkogården.
By nya kyrkogård och Åbrinken
Öster om kyrkan vid Årängsån anlades 1892-93 By nya kyrkogård, mycket till följd av de stora brister och olägenheter som förekom på gamla kyrkogården.
Enligt den lokala sägnen ska det ha funnits en tidigare begravningsplats på Kapelltomten nedanför kyrkan. En kolerakyrkogård som på 1830-talet fanns i beredskap vid Rosse behövde inte tas i bruk.
År 2011 invigdes askgravplatsen Åbrinken på nya kyrkogården. Här finns det möjlighet att som anhörig markera platsen med en namnplatta av brons, bekostad av gravrättsinnehavaren. I varje grav finns plats för två askor. Askan nedgrävs i ett hölje av lättförgängligt material. Anhöriga har möjlighet att närvara vid gravsättningen.