Założony w 1792 r. cmentarz nie był oczywiście pierwszym, na którym grzebano zmarłych wyznania ewangelicko-reformowanego. Do roku 1792 istniał wspólny cmentarz dla obu wyznań ewangelickich.
Informację dotyczącą istnienia prawdopodobnie najstarszego cmentarza dla protestantów znajdujemy w pracy Aleksandra Wejnerta Starożytności Warszawy (1854). Autor znalazł dowody, że ewangelików zmarłych w czasie klęski morowego powietrza w latach 1624-1625 chowano poza budynkiem arsenału, a więc na terenie późniejszej jurydyki Leszno. Wzmiankę potwierdzającą istnienie w tym miejscu cmentarza protestanckiego znajdujemy w dokumencie królewskim z 10 czerwca 1652 r., w którym Jan Kazimierz wyraża zgodę na założenie strzelnicy dla warszawskich Niemców w sąsiedztwie cmentarza "niemieckiego", położonego "między wodociągiem" a "cajghauzem" (arsenałem).
Aktem z 14 lipca 1736 roku cmentarz został powiększony i w tymże roku biskup Stanisław Józef Hozjusz zezwolił na zbudowanie na cmentarzu pierwszego drewnianego budynku, w którym oprócz mieszkania grabarza znajdowała się izba dla chorych. Był to zaczątek późniejszego szpitala Ewangelickiego. Obok pierwszego budynku w 1741 r. wzniesiono drugi o ośmiu izbach.
Rok 1754 jest ważną datą w dziejach cmentarza na terenie jurydyki Leszno. Wówczas to na wspólnej konferencji członków obu wyznań protestanckich postanowiono obciążyć kosztami utrzymania cmentarza również i wyznawców Kościoła Reformowanego, którzy od dawna grzebali tu swych zmarłych. Ustalono, że odtąd księgę kasową cmentarza będą prowadzić kolejno przedstawiciele obu wyznań - luteranie przez cztery lata, kalwini przez dwa lata.
W 1760 r. Piotr Tepper na terenie cmentarza na rogu Karmelickiej i Mylnej wymurował katakumby, w których z czasem znalazło się 60 trumien. Nad katakumbami powstała następna izba szpitalna, a w 1769 r. trzeci budynek z przeznaczeniem na szpital. Na mocy przywileju króla Stanisława Augusta z 17 marca 1777 r. przy cmentarzu w domu nabytym w 1775 r. poświęcono 23 marca 1777 r. pierwszy kościół kalwiński. Został on przystosowany do celów sakralnych przez Samuela Bogumiła Zuga. Budynek pełnił swą funkcję do 1880 r., do chwili ukończenia nowego kościoła przy ul. Leszno według projektu Adama Adolfa Loewe.
W maju 1792 starsi parafii ewangelicko-reformowanej zawarli z właścicielem dóbr Wielka Wola i Czyste, bankierem Karolem Schultzem, akt dzierżawy wieczystej gruntu piaszczystego, liczącego osiem tysięcy łokci kwadratowych, położonego w przecięciu ulic Młynarskiej i Żytniej aż po ulicę Karolkową, w sąsiedztwie cmentarza Ewangelicko-Augsburskiego. Roczny czynsz dzierżawny wynosił 22 zł 6 gr., a koszt zakupu placu wyniósł 12700 zł polskich. Z owego terenu, mającego kształt trapezu, wydzielono początkowo prostokąt oparty krótszym bokiem o ul. Młynarską, ogrodzono go i użytkowano jako miejsce grzebalne. Pozostała część zwana ogrodem nie została ogrodzona. Wejście na cmentarz znajdowało się od strony ul. Młynarskiej i prowadziło na dziedziniec, w którego prawym, ku ul. Żytniej zwróconym narożniku, stał dom mieszkalny, w narożniku lewym - wozownia.
Wobec braku stałego grabarza porządkiem na terenie cmentarza zajmował się zamieszkały na nim młynarz Beniamin Tisler. Uboga parafia kalwińska mogła pozwolić sobie na zatrudnienie stałego grabarza dopiero w 1804 r.; został nim niejaki Gottlieb Kambrad.
Początkowo eksportacje zwłok odbywały się wzdłuż ul. Nowolipie i jej przedłużenia - ul. Żytniej, ta jednak na wysokości ul. Okopowej zamknięta była wałami Lubomirskiego.
W listopadzie 1792 r. przedstawiciele obu parafii ewangelickich uzyskali zgodę marszałka wielkiego koronnego Wandalina Mniszcha na wystawienie "bramy i rogatek w okopach dla przewiezienia ciał zmarłych obojga konfessyj". Była to solidna, drewniana konstrukcja, złożona z przekopu ograniczonego dwiema ścianami przez wał, zamknięta dwuczęściową, pięć i pół łokcia wysokości liczącą bramą, opatrzoną furtką; poza bramą znajdował się most położony na fosie wałowej. Owa "brama śmierci", jak ją nazywano w dokumentach, z tamtych czasów, funkcjonowała jedynie do 1807 r. Wówczas to, na polecenie policji, przekop został zasypany, a kondukty pogrzebowe kierowano na Wolę przez rogatki miejskie, usytuowane na przecięciu ul. Wolskiej z Okopową.
W związku z rozbudową szpitala Ewangelickiego na terenie dawnego cmentarza w jurydyce Leszno w 1821 r. przeniesiono zwłoki znajdujące się w katakumbach na nowy cmentarz i złożono je do grobowca na wprost dzisiejszej bramy przy ul. Młynarskiej, na tyłach obecnych katakumb. Wśród ekshumowanych zwłok znalazły się doczesne szczątki proboszcza parafii ewangelicko-reformowanej w Warszawie, ks. Jana Salomona Musoniusa. Na znajdującej się dziś w tym miejscu tablicy czytamy: "Pamięci ks. Jana Salomona Musoniusa [...] oraz wszystkich współwyznawców, których znikome szczątki ze skasowanego w końcu XVIII wieku cmentarza na Lesznie przeniesione i tu złożone zostały." Przy okazji wznoszenia muru ceglanego od strony obu krzyżujących się tu ulic wmurowano w prawy filar bramy cmentarnej od strony ul. Młynarskiej tablicę z łacińskim napisem: "Stanislao Augusto Alma affulsit lux innoxio tumulo, nunc ossa tacuntur nostrorum. Legi oboediens, coetus Reformatae Confessionis, Anno Domini MDCCXCII", co znaczy: "Za Stanisława Augusta ożywcze zajaśniało światło z zimnego grobu, w którym są teraz milczące nasze kości. Prawu posłuszne Zgromadzenie Wyznania Reformowanego, Roku Pańskiego 1792."
Teren cmentarza był widownią wielu wydarzeń dziejowych. Niedaleko rozciągało się dawniej pole elekcyjne. W okresie insurekcji kościuszkowskiej oba cmentarze ewangelickie weszły w skład systemu fortyfikacji stolicy. Twórcą tych fortyfikacji był dowódca korpusu inżynierów, pułkownik, a niebawem z rozkazu Kościuszki - generał Karol Józef Sierakowski, którego ciało zostało złożone na tym cmentarzu w 1820 r. Podczas walk uległy zniszczeniu budynki gospodarcze.
Prawdziwą katastrofą dla zabudowy cmentarnej były walki w czasie powstania listopadowego, stoczone późnym wieczorem 7 września 1831 r. tj. w końcowym etapie szturmu wojsk marszałka Paskiewicza na Warszawę, po zajęciu reduty Ordona i upadku szańców bronionych przez generała Józefa Longina Sowińskiego. Cmentarz, którego ceglany mur, zabudowania oraz okazalsze grobowce stanowiły naturalną warownie, przechodził parokrotnie z rąk do rąk. Spłonęły wówczas wszystkie zabudowania, zniszczono także wiele pomników. Dopiero po sześciu latach usunięto większość zniszczeń.
Pisząc o cmentarzu jako o miejscu historycznych wydarzeń, należy przypomnieć pogrzeb Katarzyny Sowińskiej, wdowy po generale Józefie Longinie Sowińskim, odprawiony 10 czerwca 1860 r. w asyście ks. Józefa Spleszyńskiego. Był on pierwszą polską manifestacją polityczną od czasu upadku Warszawy w 1831 r. Przypomniał milczącejod trzydziestu lat stolicy o bohaterach nocy listopadowej.
W 1843 r. teren cmentarza został znacznie powiększony. W roku następnym architekt Adam Adolf Loewe wykonał projekt budowy kaplicy przedpogrzebowej oraz przystąpił do jego realizacji. W tym samym czasie wybrukowano podwórze i zakupiono dzwon pogrzebowy. Nieco później wykonano plan cmentarza, poprzedzony dokładnymi pomiarami grobów rodzinnych i tzw. kwater ogólnych, oznaczając numerami i literami każdą pozycję. W latach 1864 i 1884 powiększono areał cmentarzy, zakupując grunty graniczące z cmentarzem luterańskim. Mur graniczny między obydwoma cmentarzami wybudowało kolegium kościelne parafii luterańskiej w porozumieniu z parafią reformowaną. Pierwszym intendentem cmentarza, który zamieszkał na jego terenie około 1886 r. był Ignacy Knauff. Jego syn Stefan pełnił po ojcu tę funkcję aż do śmierci w 1940 r. W latach następnych zarządca cmentarza była córka Stefana, Celina Borowa.
W 1900 r. nastąpiło kolejne powiększenie części grzebalnej cmentarza. W tym samym roku złożono do grobu zwłoki inż. Edmunda Diehla, autora opracowania dziejów tego cmentarza. W 1910 r. przebudowano istniejącą kaplicę, przedpogrzebową w stylu neogotyckim, według projektu Władysława Marconiego. Wówczas przeniesiono też dawną historyczną tablicę do sieni domu mieszkalnego, w prawym zaś filarze bramy od strony Młynarskiej umieszczono jej marmurową kopię. Stopniowe zapełnianie mogiłami terenu grzebalnego zmusiło kolegium kościelne do powiększenia w 1914 r. jego obszaru przez przyłączenie części poprzednio zakupionego terenu, leżącego dotąd odłogiem. Podobnie postąpiono w lipcu 1928 r.
Od czasu pogrzebu generałowej Sowińskiej w 1860 r. nigdy cmentarza nie wypełnił tak wielki tłum, jak w dniu 23 listopada 1925 r. podczas pogrzebu Stefana Żeromskiego. Cmentarz nie był w stanie pomieścić wszystkich uczestników uroczystości. Nad trumną spowitą narodowym sztandarem egzekwie żałobne odprawił ks. superintendent Władysław Semadeni, przemawiali Andrzej Strug i Wacław Sieroszewski. Mrok listopadowego wieczoru rozświetlały płonące pochodnie trzymane przez harcerzy. Trumnę złożono w katakumbach, a po dwóch latach przeniesiono uroczyście do grobowca.
Najtragiczniejsze chwile w długiej historii cmentarza to czas powstania warszawskiego w sierpniu 1944 r. Teren cmentarza wchodził w skład II rejonu obwodu Wola i miał odegrać rolę bariery uniemożliwiającej wrogowi opanowanie ul.Wolskiej. Cmentarz zajęli żołnierze batalionu "Parasol", a miejscowa ludność cywilna wzniosła jedną barykadę w poprzek ulicy Żytniej, w sąsiedztwie cmentarza, drugą zaś przegrodziła ul.Karolkową. Niestety, już 2 sierpnia Niemcy przejęli w tym rejonie inicjatywę, nacierając od południa i zachodu. Natężenie walk o utrzymanie cmentarza wzmogło się 6 sierpnia, kiedy od południa zaczęły nacierać nowo nadesłane oddziały bojowe SS Reinefartha. Odtąd cmentarz przechodził z rąk do rąk aż do 11 sierpnia 1944, kiedy to żołnierze batalionu "Parasol" wycofali się na Stare Miasto, a cmentarze luterański i reformowany stały się bazą wypadową Niemców. Walki te spowodowały olbrzymie zniszczenie cmentarza. Zarówno kaplica, jak i budynek mieszkalny zostały doszczętnie spalone.
Dnia 7 grudnia 1947 sporządzono akt erekcyjny nowego budynku, który miał być usytuowany w tyle cmentarza, z wejściem od ul.Żytniej 42. Miał pomieścić kancelarię i mieszkania pracowników cmentarza. Jeden z końcowych akapitów aktu brzmi: "Oby Pan Najwyższy pozwolił, by dom ten, z takim trudem i wysiłkiem wzniesiony [...] przetrwał długie lata i raczej rozsypał się w proch skutkiem swej naturalnej starości niż z powodu nowych kataklizmów dziejowych." Kaplicę cmentarną odbudowano dopiero w 1984 r.
Na płytach grobowych tego cmentarza znajdują się różnojęzyczne napisy świadczące, że spoczywają tu ludzie różnych narodowości i przekonań. Większość pochowanych należała oczywiście do Kościoła Ewangelicko-Reformowanego. Niektórzy byli potomkami starych rodów protestanckich, wywodzących się z szesnastowiecznej szlachty kalwińskiej, jak Grabowscy, Kurnatowscy, Krzyczewscy, Skierscy, Świdowie, oraz rodzin należących do skrajnego skrzydła reformacji, tzn. arian, czyli braci polskich (generał Karol Józef Sierakowski). Osoby noszące nazwiska angielskie (Cooper, Preacher) zapewne były wyznawcami Kościoła Anglikańskiego lub reprezentowały szkocki odłam protestantów. Nazwiska o brzmieniu francuskim lub włoskim (Lacour, Lardelli, Semadeni, Paravicini) należą do potomków rodów bugonckich lub mieszkańców kantonów szwajcarskich.
Są tu pochowani przedstawiciele Żydów polskich (Kronenberg, Halper, Loewenstein), którzy w XIX wieku zmienili wyznanie mojżeszowe na ewangelicko-reformowane, a także osoby z małżeństw katolicko-ewangelickich, innych chrześcijańskich mniejszości wyznaniowych, jak metodyści, adwentyści, a także bezwyznaniowi, których ze względów dogmatycznych lub światopoglądowych nie chciały przyjąć katolickie cmentarze Warszawy. Należy bowiem podkreślić, że protestantów cechuje daleko idąca tolerancja i szacunek wobec ludzi o odmiennym światopoglądzie.
Rys historczyny zaczerpnięto z książki "Cmentarz Ewangelicko-Reformowany" Jadwiga i Eugeniusz Szulcowie, Wyd. PIW 1989 r.