Przez pół roku w 1886 r. był ministrem spraw zagranicznych. Ponownie zajmował to stanowisko w latach 1892–1894. Podczas swojej drugiej kadencji dał się poznać jako zwolennik ekspansji kolonialnej w Afryce. W tym czasie doszło do brytyjsko-francuskiego sporu o Ugandę, która w 1894 r. stała się kolonią Wielkiej Brytanii.
Kiedy w 1894 r. Gladstone odszedł na emeryturę, Rosebery stanął na czele rządu i Partii Liberalnej. Za jego urzędowania narastał konflikt między imperialistycznym skrzydłem Partii Liberalnej reprezentowanym m.in. przez samego premiera, a bardziej umiarkowanym, w skład którego wchodził m.in. kanclerz skarbu William Vernon Harcourt. Rosebery podał rząd do dymisji w czerwcu 1895 r. Jeszcze przez rok pozostał liderem Partii Liberalnej.
Ostatnie lata W następnych latach Rosebery oddalał się od Partii Liberalnej. Poparł m.in. II wojnę burską oraz sprzeciwiał się przyznaniu Irlandii autonomii. Krytykował poczynania liberalnych rządów Henry’ego Campbella-Bannermana i Herberta Henry’ego Asquitha. Skrytykował również „budżet ludowy”, przedstawiony w 1909 r. przez Davida Lloyda George’a. Po uchwaleniu Parliament Act w 1911 r., który znacznie ograniczał kompetencje Izby Lordów, Rosebery wycofał się z czynnego życia politycznego.