Powszechnie znany ze swojej antykomunistycznej postawy, po upadku Kołczaka był poszukiwany przez bolszewicką policję polityczną (CzeKa). Dzięki niezwykłym zdolnościom przystosowawczym (m.in. znał biegle 7 języków obcych, w tym chiński i mongolski), udało mu się przedostać z kontrolowanej przez bolszewików Rosji do Mongolii. W jej stolicy Urdze został doradcą barona Ungerna walczącego przy pomocy zorganizowanej przez siebie Azjatyckiej Dywizji Konnej z bolszewikami. Dane na temat roli, jaką Ossendowski odegrał w Mongolii, są okryte tajemnicą; była ona niewątpliwie dość istotna, sam jednak mówił na ten temat niechętnie. Istnieje teza, jakoby Ossendowski stał się depozytariuszem wiedzy o ogromnym skarbie, ukrytym przez „Krwawego Barona” Ungerna gdzieś w mongolskich stepach, a który miałby posłużyć do sfinansowania kolejnej wojny z komunistami.