Po inwazji Niemiec na ZSRR w czerwcu 1941 Święciany znalazły się pod okupacją niemiecką. Pod koniec września, gdy Niemcy i ich litewscy kolaboranci rozpoczęli przygotowania do masowych egzekucji Żydów na poligonie pod Nowymi Święcianami, Rudnicki wraz z grupą kolegów uciekł z miasta. Przez wiele dni błąkał się po okolicznych lasach, przez pewien czas przebywał także w getcie w Głębokiem. Odnaleziony przez siostrę, pod koniec grudnia wrócił do Święcian i zamieszkał w tamtejszym getcie.
Pracował jako robotnik przymusowy w warsztatach, w których naprawiano i konserwowano zdobyczną broń radziecką. Wstąpił do podziemnej organizacji, która działała w getcie. Początkowo zajmował się gromadzeniem broni oraz pozyskiwaniem w Judenracie funduszy na jej zakup. Docelowo jego organizacja dążyła, aby w momencie rozpoczęcia przez Niemców likwidacji getta wywołać zbrojne powstanie, które umożliwiłoby jak największej liczbie Żydów ucieczkę do lasu, gdzie zamierzano zawczasu przygotować obóz dla uciekinierów. Planów tych jednak nie zrealizowano. W lutym 1943, zdając sobie sprawę, że całkowita likwidacja getta jest nieuchronna, Rudnicki z grupą towarzyszy ze święciańskiej konspiracji postanowił uciec do lasu. Ukrywali się tam na własną rękę przez blisko dwa miesiące.