Samodzielnie lub wraz ze swoimi współpracownikami opisał 34 gatunki i utrwalone mieszańce taksonomiczne Oenothera, stając się światowym specjalistą od tego rodzaju. Zainteresowania naukowe prof. Rostańskiego obejmowały także taksonomię i geografię roślin, ochronę przyrody, florystykę oraz chorologię roślin. Interesował się również historią botaniki, m.in. przez wiele lat był aktywnym członkiem Sekcji Historii Botaniki Polskiego Towarzystwa Botanicznego. Angażował się w prace krajowych i zagranicznych towarzystw naukowych oraz pracę w redakcjach i radach redakcyjnych czasopism specjalistycznych.

W trakcie swojej działalności zawodowej (lata 1956–2010) opublikował ponad 200 artykułów naukowych i monografii. Ma też w swoim dorobku świadectwo racjonalizatorskie Akademii Medycznej we Wrocławiu oraz świadectwo współtwórcy odmiany wiesiołka AMAR (2001). Jego dorobek naukowy uzupełniają liczne opracowania popularnonaukowe. W czasie swojej pracy zawodowej uzyskał stypendia zagraniczne oraz odbył długoterminowe staże naukowe, m.in. w Instytucie Botaniki Uniwersytetu w Budapeszcie (Węgry), Instytucie Botaniki im. Komarowa w Leningradzie (ZSRR), Instytucie Botaniki Czechosłowackiej Akademii Nauk w Průhonicach (Czechosłowacja), w Ogrodzie Botanicznym Uniwersytetu w Düsseldorfie (RFN), w Muzeum Botanicznym Uniwersytetu w Lund (Szwecja).