L’église Saint-Jean-Baptiste du Petit Mailly est un monument datant du VIIᵉ siècle. L’église possède un cimetière qui est accessible depuis un portail qui donne sur la rue Saint-Jean. Le cimetière comptabilise une centaine de tombes. Des militaires attendent devant le portail de l’église.