Powstanie właściwego cmentarza ewangelickiego wiązało się z ukształtowaniem samodzielnej gminy ewangelickiej w Wejherowie w latach 1823–1824 oraz z budową pierwszego kościoła ewangelickiego przy ul. Lęborskiej, obecnej ul. Jana III Sobieskiego. Kurpiewski, powołując się m.in. na kronikę Johannesa Rooka, wskazuje, że cmentarz powstał w styczniu 1826 roku. Jednocześnie dopuszcza możliwość, że nowa nekropolia funkcjonowała już od 1823 roku, równolegle z dawną kwaterą przy kościele parafialnym. W miejskim programie opieki nad zabytkami oraz na pamiątkowym głazie ustawionym na terenie dawnego cmentarza przyjęto datowanie 1823–1951.
Cmentarz usytuowano przy tej samej ulicy co kościół ewangelicki, początkowo około 500 m na zachód od świątyni. Po wybudowaniu nowego kościoła ewangelickiego w 1909 roku odległość ta zmniejszyła się do około 150 m.
Układ i zabudowa Cmentarz miał układ północ–południe. Według ustaleń Kurpiewskiego jego szerokość od strony dawnej ul. Lęborskiej, obecnie ul. Jana III Sobieskiego, wynosiła około 62,5 m, natomiast długość działki przeznaczonej pod cmentarz około 295 m. Od południa teren cmentarza zamykała ul. Strzelecka. Obszar miał kształt wydłużonego prostokąta.