وی مدرک کارشناسی ارشد خود را در زمینه مهندسی صنایع از دانشگاه تربیت مدرس اخذ کرد و در رشته مدیریت تولید از همان دانشگاه مدرک دکترا گرفت.
وی همچنین مدرک کارشناسی خود را در رشته مهندسی متالورژی از دانشگاه علم و صنعت ایران کسب کرد.
علی احمدی در سال 1384 برای ورود به کابینه اول رئیس جمهور محمود احمدی نژاد؛ برای تصدی وزارت تعاون به مجلس شورای اسلامی معرفی شد که رای اعتماد نگرفت.
وی در سال 1386 و در نیمه راه کابینه اول احمدی نژاد،با گرفتن رای اعتماد از مجلس به عنوان وزیر آموزش و پرورش معرفی شد و همان زمان به عضویت در شورای عالی انقلاب فرهنگی درآمد.
احمدی اما به دولت دهم و به تعبیری به کابینه دوم احمدی نژاد که 12 شهریور 1388 از مجلس هشتم رای اعتماد گرفت راه نیافت.
در کارنامه شغلی علی احمدی، ریاست دانشگاه پیام نور نیز وجود دارد.