Înfiinţat în secolul al XVIII, ca și o componentă a Cetăţii Aradului, Cimitirul a fost organizat la început pe ambele maluri ale Mureşului. De-a lungul timpului aici au fost îngropaţi peste 3.500 oșteni ai Imperiului Austriac, alături de prizonieri şi victime ale lagărelor de detenţie. În organizarea lui se pot distinge cel puțin cinci faze:
Prima cuprinde perioada construcției Cetății (1763 – 1783) când cadavrele erau scoase pe Poarta nr 2 şi înhumate lângă ziduri, pe malul stâng al Mureșului, în amonte de actualul ștrand Neptun, sau trecute cu bărcile în Micălaca. Acolo, probabil, au fost îngopaţi şi iobagii, care nu au rezistat regimului aspru de detenţie impus după înăbuşirea şi arestarea participanţilor la Răscoala lui Horia Cloşca şi Crişan.
Cea de a doua perioadă corespunde războaielor napoleoniene (1799-1813), când în cetate, au fost întemniţaţi mii de prizonieri francezi.
Tot sub zidurile Cetății au fost îngropate în cea de a treia etapă, victimele Revoluţiei maghiare de la 1848-1849, inclusiv generalul Howiger, victimă a unei explozii din octombrie 1849.
La sfârşitul secolului al XIX-lea, pe aceste suprafeţe au fost amenajate mormintele soldaţilor din armata imperială, a prizonierilor musulmani din timpul războiului turco-austriac (1878) și în final, victimele Lagărului Deținuților Sârbi din Primul Război Mondial (1914 – 1918).
O notă publicată în ziarul Românul din 23 iulie 1919, amintea că acolo, lângă zidurile Cetății încă se mai vedea cimitirul neîngrijit unde au fost îngropaţi peste 7000 deținuți sârbi, morţi în timpul epidemiei tifosului exantematic, care a bântuit 6-7 luni tabăra prizonierilor din Arad. Buruienile au ajuns la înălţimea unui stat de om, crucile sunt rupte, pretutindeni nepăsare şi dovada unui lipsit respect faţă de morţi.
În 1927, de curând înființa filială arădeană a Societății Cultul Eroilor a luat în îngrijire Cimitirul Militar din Micălaca, unde se aflau 3500 de morminte, inclusiv a oștenilor armatei române. Tot atunci a avut loc ceremonialul deshumării a 120 italieni, ale căror rămășițe pământești au fost transporate la București.
Cimitiru, mai păstra, până la dezafectarea sa după 1970, numeroase monumente funerare, printre care şi pietrele de căpătâi ale ofițerilor superiori: Tr. Thorn, Rozner, Anton Eger, Kukulievics şi un cavou al primului comandant al cetăţii Aradului, generalul maior Beniamin Gotlieb von Obel, construit în 1790 în stil romanic. Vandalizate în timp, odată cu edificarea noilor blocuri de locuiţe din zonă, monumentele au fost demolate iar cimitirul desfiinţat.
