وی در زمان جوانی وقتی به عنوان بازیکن وارد زمین فوتبال می‌شد در پست دفاع بازی می‌کرد.
رهاگل فوتبال را در شهر زادگاه خود آغاز کرد و در 22 سالگی عضو تیم فوتبال اسن بود.
در سال 1963 به تیم هرتا پیوست و دو فصل برای این تیم بازی کرد و پس از بازی‌های درخشان به تیم قدرتمند کایزرسلاترن رفت.
رهاگل در تیم کایزرسلاترن 148 بار یه میدان رفت و 16 گل به ثمر رساند و در سال 1972 از این تیم جدا شد.
وی پس از خداحافظی از بازی فوتبال به مربیگری علاقمند شد و از سال 1974 با تیم‌های پایه و آماتور شروع کرد.
اتو رهاگل در سال 1976 با تیم وردر برمن قرارداد همکاری امضا کرد اما همان سال به تیم بروسیا دورتمند نقل مکان کرد.
وی دو فصل با این تیم کار کرد و بعد به آرمینیا بیله‌فلد پیوست و بعد از یک سال با فورتونا دوسلدورف به توافق برای مربیگری این تیم رسید.
رهاگل پس از به دست آوردن نتایج خوب، در سال 1981 مجددا با وردر برمن قرارداد 4 ساله امضا کرد.
در سال 1985 با تیم قدرتمند باشگاه‌های آلمان یعنی بایرن مونیخ قرارداد یک ساله بست و بعد به تیم سابق خود؛ کایزرسلاترن رفت و تا سال 2001 با این تیم کار کرد.
در سال 2001 فدراسیون فوتبال کشور یونان اتو رهاگل را به خدمت گرفت و وی توانست این تیم را در سال 2004 به مقام قهرمانی جام ملت‌های اروپا برساند.
از جمله افتخارات اتو رهاگل، قهرمانی جام برندگان اروپا در سال 1992، قهرمانی در سه دوره جام آلمان در سال‌های 1988، 1993 و 1999 و پرافتخارترین آنها قهرمانی با تیم ملی یونان در سال 2004 است.
رهاگل همچنین توانست تیم ملی یونان را به مرحله نهایی جام جهانی 2010 آفریقای جنوبی هدایت کند و این تیم برای دومین بار در این جام حضور داشته باشد.
تیم یونان در جام جهانی 2010 در گروه (بی) با تیم‌های آرژانتین، نیجریه و کره جنوبی همگروه شد و اتو رهاگل سرمربی این تیم بود.