Kariera trenerska Po zakończeniu kariery piłkarskiej Levy został trenerem. Początkowo szkolił młodzież w Maccabi Hajfa. W 2000 roku na krótko został trenerem pierwszego zespołu Maccabi na skutek rezygnacji Eliego Kohena. Po zakończeniu sezonu 2002/2003, gdy z klubu odszedł dotychczasowy szkoleniowiec Jicchak Szum, Levy ponownie został pierwszym trenerem Maccabi. W sezonach 2003/2004, 2004/2005 i 2005/2006 doprowadził Maccabi do wywalczenia trzech kolejnych tytułów mistrza Izraela. Z klubem tym zdobył też dwa Puchary Toto w sezonach 2005/2006 i 2007/2008. Po sezonie 2007/2008 odszedł z Maccabi i został zastąpiony przez Elishę Lewiego.

W grudniu 2008 Levy został trenerem Maccabi Petach Tikwa. Z kolei w grudniu 2009 podpisał kontrakt z Unireą Urziceni i w sezonie 2009/2010 wywalczył z nią wicemistrzostwo Rumunii. Na przełomie 2010 i 2011 roku prowadził Beitar Jerozolima, a od czerwca do września 2011 pracował w zespole Steauy Bukareszt. W październiku 2011 został trenerem cypryjskiego Anorthosisu Famagusta. Następnie prowadził Beitar i Maccabi Netanja.