Stał się jednym z liderów Zielonych; reprezentował w ramach partii frakcję „realistów”, uznających, że ugrupowanie powinno działać w ramach systemu politycznego i wykazywać się większą elastycznością. W 1994 ponownie został wybrany do Bundestagu, po czym objął funkcję współprzewodniczącego partyjnej frakcji. Z powodzeniem ubiegał się o poselską reelekcję w 1998, 2002 i 2005.

Wybory parlamentarne w 1998 zakończył się zwycięstwem SPD, która zawarła koalicję z Zielonymi. 27 października 1998 Joschka Fischer objął urzędy wicekanclerza i ministra spraw zagranicznych w rządzie Gerharda Schrödera. Pozostał na tych stanowiskach również w powołanym 22 października 2002 jego drugim gabinecie.

W trakcie pełnienia funkcji rządowych pewną krytykę i debatę publiczną wywołała kwestia jego przeszłości – zaangażowania w akcje skrajnej lewicy z użyciem przemocy. Będąc członkiem niemieckiego rządu, Joschka Fischer przez pewien czas był najbardziej popularnym niemieckim politykiem. Chociaż wywodził się z ugrupowania pacyfistycznego, poparł w 1999 operację Allied Force, a w 2001 amerykańską interwencję w Afganistanie. Sprzeciwiał się natomiast interwencji wojsk międzynarodowych w Iraku z 2003. Na jego reputację negatywnie wpłynęła tzw.