Rawicki cmentarz parafialny przy ul. Żwirowej powstał na początku XIX wieku. Poświęcono go 15 sierpnia 1811 roku, a więc gdy miasto znajdowało się w granicach Księstwa Warszawskiego.
Jego utworzenie wiązało się z coraz większą liczbą mieszkańców wyznania katolickiego. Wcześniej katolicy chowani byli na cmentarzu przykościelnym w Łaszczynie (parafia św. Marcina), gdyż większość w Rawiczu, przez ponad 200 lat, stanowili protestanci.
Na pagórkach. W sąsiedztwie wiatraków
Z informacji przekazanych przez Muzeum Ziemi Rawickiej wynika, że dawni rawiczanie nazywali to miejsce "młynami", ponieważ obszar należał wcześniej do cechu młynarzy. Z najstarszymi kwaterami cmentarnymi sąsiadowały usytuowane na pagórkach wiatraki.
Przez lata wielokrotnie powiększany
Teren cmentarza katolickiego w Rawiczu był pierwotnie znacznie mniejszy od obecnego, obejmował około 1 ha. Potem był kilkakrotnie powiększany. W 1936 roku, od Hermanna Appelbauma i Kurta Lieberta, zakupione zostały sąsiadujące działki o powierzchni około 2,3 ha, przeznaczone na powiększenie cmentarza (zagospodarowano je dopiero w latach 50.) W 1957 roku i w latach 70. nastąpiły kolejne powiększenia cmentarza.30 września 1977 roku Naczelnik Miasta i Gminy Rawicz orzekł użytkowanie wieczyste cmentarza w Rawiczu o powierzchni 4,5 ha przez Parafię Chrystusa Króla i Zwiastowania Najświętszej Mari Panny (akt notarialny podpisano 29 listopada 1977 roku).
Pierwotna kaplica cmentarna była prawdopodobnie drewniana, na przełomie XIX i XX wieku postawiono ceglaną. Obecną, w tym samym miejscu, ale znacznie większą, wybudowano na początku lat 80. Krzyż początkowo stał obok kaplicy, potem umieszczono go w najwyższym punkcie cmentarza (na tzw. niebie), czyli obok obecnej dzwonnicy, ostatecznie przeniesiono nieco dalej, gdzie znajduje się do dziś.
