Le cimetière du camp de Mailly a été établi à l’occasion de la Première Guerre mondiale, il servait de lieu temporaire pour les sépultures en attendant leurs transferts et leurs exhumations vers des cimetières militaires ou des cimetières civils.
En 1916, il comportait une trentaine de tombes françaises, une dizaine de tombes allemandes, deux tombes animales. Un carré était également dédié pour les Américains avec 115 tombes.
Durant la Seconde Guerre mondiale, le cimetière accueillera une trentaine de tombes de soldats français et 11 soldats coloniaux tombés durant l’invasion de la France. Au lendemain du bombardement du 3-4 mai 1944, 35 soldats coloniaux prisonniers au camp et 6 Allemands furent enterrés. En octobre 1944, un civil fut aussi enterré dans ce cimetière.
Puis, en 1951, l’ensemble des corps ont été exhumés vers d’autres cimetières et le cimetière ferma ensuite définitivement.