A fost numit antrenor interimar la Mainz în 2001, dar a rămas până în 2008.
A promovat în Bundesliga (o premieră pentru Mainz) la al treilea sezon ca principal și a rezistat trei ani pe prima scenă a fotbalului german.
Bayern l-a avut în listă pentru postul de antrenor în 2008, dar în cele din urmă l-a ales pe celălalt Jurgen (Klinsmann). Abia scăpată de problemele financiare, Borussia Dortmund a încercat ceva diferit, mergând pe mâna unui tehnician de 41 de ani care nu câștigase niciun trofeu înainte. Klopp a ajuns în finala Champions League cu Borussia (în 2013, unde a pierdut cu 1-2 în fața lui Bayern), tot el a cucerit două titluri în Bundesliga.
În 2015 a făcut pasul spre Premier League, semnând cu Liverpool, unde, ca să-l parafrazez pe Bruno Fernandez (autor al unui gol cu Liverpool în calitate de jucător al Unirii Urziceni, acum stabilit chiar în Orașul Cormoranilor), “an după an s-a văzut o continuă creștere în valoare”. În 2016, Liverpool s-a calificat în finala Europa League (pierdută în fața Sevillei), doi ani mai târziu a ajuns în finala Champions League (pierdută în fața Realului), pentru ca un an mai târziu să cucerească trofeul continental în urma unui meci cu Tottenham. Cireașca de pe tort a venit în 2020, cu primul titlu în Premier League după 30 de ani.
Cine nu îl cunoaște pe Klopp, ar crede că face parte din tipologia tehnicienilor care au atins perfecțiunea absolută, însă nu e deloc așa. Klopp a obținut performanțe remarcabile, dar a trăit și dezamăgiri amare. În ultimul an la Mainz a ratat la mustață revenirea în Bundesliga, în ultimul an la Borussia a ajuns la un moment dat pe ultimul loc. Cu Liverpool a avut o serie de șase sau șapte meciuri fără victorie în ultima ediție din Premier League, dar în cele din urmă a regăsit gustul biruinței și s-a clasat pe ultima poziție care asigura prezența în grupele Champions League. Lungi perioade fără victorie a avut și la primele două formații pe care le-a antrenat, dar de fiecare dată s-a ridicat (în primul rând la nivel psihogic, apoi și sportiv). Klopp a fost și este omul potrivit, la clubul potrivit, unde răbdarea (pe care majoritatea echipelor nu o mai au când rezultatele lipsesc) e o mare virtute.
Asta îl face special pe Jurgen Klopp, faptul că obține niște rezultate uluitoare pe termen lung, cu multe sacrificii, și faptul că transformă fiecare nereușită într-o reușită mai devreme sau mai târziu. Făra inconstanța de care se mai lovește uneori ar fi probabil un antrenor monoton, iar fotbalul are nevoie și de imprevizibil pentru a crea niște emoții, pentru a răsplăti munca neobosită depusă în fiecare săptămână pe terenul de antrenament, în ședințele avute cu fiecare jucător în parte ori în campaniile de transferuri.