وی به عنوان بازیکن تیم ملی آلمان توانست در مسابقات جام جهانی فوتبال ۱۹۹۰ به مقام قهرمانی جهان دست یابد و در سال ۱۹۹۶ نیز قهرمان اروپا شود.
کلینزمن در ۱۰۸ دیداری که برای آلمان غربی و آلمان بازی کرد ۴۷ گل به ثمر رساند.
کلینزمن از ۲۶ ژوئیه ۲۰۰۴ و زمانی که ۴۰ سال داشت از سوی فدراسیون فوتبال آلمان به عنوان سرمربی تیم ملی فوتبال این کشور منصوب شد و به همراه الیور بیرهوف و یوآخیم لو تصمیم گرفت تا تیم ملی آلمان را در کشور خودش قهرمان جهان کند.
او پس از اینکه با تیم جوان آلمان توانست در مقابل برزیل بازی را با نتیجه مساوی یک بر یک به پایان برساند توانست تیم ملی آلمان را در مقابل تیم ملی اتریش پیروز از زمین بیرون آورد.
سرمربی تیم ملی فوتبال آلمان چند ماه مانده به برگزاری مسابقات جام جهانی 2006 مورد انتقادات شدید از سوی رسانه‌ها، سیاستمداران و ورزش دوستان قرار گرفت. بخصوص پس از شکست ۴ بر ۱ تیمش در مقابل تیم ملی ایتالیا در اول مارس ۲۰۰۶ در معرض انتقادات بیشتری قرار گرفت.
او سپس مدت کوتاهی در تیم بایرن مونیخ سرمربیگری کرد و این تیم آلمانی را تا مرحله یک چهارم نهایی لیگ قهرمانان اروپا پیش برد.
کلینزمن ژوئیه سال 2011 با فدراسیون فوتبال آمریکا قرارداد همکاری امضا کرد و به جای باب بردلی به عنوان سرمربی این تیم مشغول به کار شد.
افتخارات کلینزمن:
- قهرمانی جهان ۱۹۹۰
- قهرمانی اروپا (کاپیتان) ۱۹۹۶
- قهرمانی جام یوفا ۱۹۹۱ - ۱۹۹۶
- قهرمان لیگ آلمان ۱۹۹۷
- قهرمان باشگاه‌های آلمان ۱۹۹۷
- قهرمان سوپرجام ایتالیا ۱۹۸۹
- آقای گل بوندس لیگا ۱۹۸۸
- آقای گل جام یوفا ۱۹۹۶
- بهترین بازیکن آلمان ۱۹۸۸ و ۱۹۹۴
- بهترین بازیکن لیگ برتر انگلیس 1995