W latach 1994–1995 był trenerem AIK Fotboll, w latach 1996-1997 prowadził Stabæk IF, a w latach 1998-2000 był szkoleniowcem Aalborg BK, zdobywając z tym klubem mistrzostwo Danii w sezonie 1998/1999. W czerwcu 2000 przeszedł do SV Salzburg. We wrześniu 2001 objął posadę trenera FC København. Z tym klubem dwukrotnie zdobył mistrzostwo kraju: w sezonie 2002/2003 i 2003/2004 oraz puchar Danii w sezonie 2003/2004. W 2004 został trenerem sezonu w Danii. 1 stycznia 2006 na stanowisku szkoleniowca duńskiego klubu zastąpił go Ståle Solbakken. W kwietniu 2006 został szkoleniowcem Panathinaikosu, ale już we wrześniu tegoż roku został zwolniony. W lipcu 2007 został asystentem swojego rodaka Svena-Görana Erikssona w Manchesterze City, natomiast w czerwcu 2008 wraz z Erikssonem opuścił klub i został jego asystentem w reprezentacji Meksyku. W październiku 2009 podpisał trzyletni kontrakt z Notts County, jednakże dwa miesiące później zrezygnował z prowadzenia klubu. W styczniu 2010 objął posadę szkoleniowca New York Red Bulls, którym był do końca 2012 roku.