Nach nur einer Saison wurde der ehemalige Rekordschütze des SC Freiburg 1999 bei Fenerbahçe Istanbul gefeuert und wechselte in die Zweite Bundesliga. Dort trainierte er den Karlsruher SC, verließ den Verein allerdings auch wieder nach nur einem Saisonsieg. 2001 war Joachim Löw kurzzeitig arbeitslos, ging als Trainer in die Schweiz und nach Österreich, bis Jürgen Klinsmann ihn in die Nationalmannschaft holte - zunächst als Assistenztrainer. Nach Klinsmanns Rücktritt 2006 wurde Löw der neue Cheftrainer.