Rozpoznany w obozie przez Fritza Walthera, dawnego konkurenta i producenta broni, który był przekonany o jego zdolnościach, zyskał lepsze warunki pobytu. Wtedy też otrzymał propozycję – kazano mu kontynuować pracę, aby naziści mogli zaprezentować maszynę Führerowi jako dar po zakończonej zwycięstwem wojnie, obiecując także możliwość zostania uznanym za Aryjczyka. Otrzymał specjalne racje żywnościowe jako motywację i ostatecznie przeżył obóz koncentracyjny.

Po bombardowaniach obozu przez aliantów, część wciąż działającej fabryki została przeniesiona do opuszczonej kopalni soli w Billroda, 30 kilometrów od Buchenwaldu. Tutaj, 600 metrów pod powierzchnią, Niemcy próbowali wznowić produkcję. Na dwa dni przed wyzwoleniem więźniowie wrócili do Buchenwaldu.

Herzstark prawie skończył szkice 11 kwietnia 1945 r., kiedy zobaczył nadjeżdżające z północy jeepy. Amerykańscy żołnierze poinformowali więźniów o uwolnieniu.