وی در رشته مهندسی الکترونیک در دانشگاه صنعتی اصفهان تحصیل کرده است.
مشایی سابقه فعالیت مشاغل مختلف دولتی را در کارنامه خود دارد:
- مدیر کل اجتماعی وزارت کشور
- مدیر شبکه رادیو پیام
- مدیر شبکه رادیو تهران
- معاون اجتماعی و فرهنگی شهرداری تهران
- رئیس سازمان فرهنگی هنری شهرداری تهران
- معاون رییس جمهور و رییس سازمان میراث فرهنگی، صنایع دستی و گردشگری
- رییس مرکز مطالعات جهانی شدن
- جانشین رییس جمهور در شورای عالی ایرانیان خارج از کشور
- عضو شورای نظارت بر صداوسیما
- عضو شورای فرهنگی دولت
- نماینده رییس جمهور در شورای نظارت بر سازمان صداو سیمای جمهوری اسلامی ایران
محمود احمدی نژاد، در تیر ۱۳۸۸ وی را به سمت معاون اول رییس جمهور انتخاب کرد که این انتصاب با واکنش‌هایی از جمله نامه مقام معظم رهبری به رئیس جمهور در مورد آقای مشایی مواجه شد.
سر انجام احمدی‌نژاد در سوم مرداد ۸۸ با درخواست کناره‌گیری رحیم مشایی از این سمت موافقت کرد و در حکم دیگری وی را به سمت مشاور و رییس دفتر خود منصوب کرد.
احمدی‌نژاد در آذر ۹۱ حکمی مشایی را به سمت رییس دبیرخانه جنبش عدم تعهد منصوب کرد.
مشایی عصر شنبه ۲۶ اسفند ۹۶ توسط نیروهای امنیتی بازداشت شد. وی در روز ۳ مرداد ماه سال ۱۳۹۷ برای بررسی اتهامات باید در دادگاه انقلاب حاضر شد. سرانجام مشایی به ۶ سال و ۶ ماه حبس محکوم شد که به موجب اجرای قانون اشد مجازات و صرفا ۵ سال آن اجرا خواهد شد.