کودکی را در زادگاه پدری‌ا‌ش در روستای آق‌کند، بین میانه و زنجان سپری کرد و در همان جا به مدرسهٔ ابتدایی رفت.
در مشهد دیپلم گرفت و به استخدام ادارهٔ فرهنگ قوچان آموزش و پرورش کنونی درآمد و آموزگاری را پیشه کرد. در سال ۱۳۳۸ به تهران آمد و در بانک صادرات استخدام شد و تا ۱۳۴۲ در آن بانک کار می‌کرد.
در سال ۱۳۴۲ برای ادامهٔ تحصیل به آلمان رفت. در سال ۱۳۴۹ از دانشگاه گوتینگن آلمان دکترا گرفت .در بازگشت نخست به استخدام دانشگاه اصفهان درآمد . در سال ۱۳۵۳ سرانجام مرکز تحقیقات ایران‌شناسی را تأسیس کرد.
در ۱۳۶۷ مجدداً به آلمان رفت و به مدت ۶ سال به تحقیق و تدریس در دانشگاه‌های دانشگاه ماربورگ و گوتینگن مشغول بود. سرانجام در ۱۳۷۳ مجددا به ایران بازگشت و ریاست بخش ایران‌شناسی مرکز دایرةالعمارف بزرگ اسلامی را بر عهده گرفت.
۱۳۷۹ سالی بود که براثر سکته مغزی و فلج شدن نیمی از بدن خانه نشین شد اما همچنان به کار تحقیق و ترجمه اشتغال داشت .در این مدت بیش از 200 مقاله علمی تالیف و حدود 90 مقاله نیز برای مرکز دائرالمعارف دائره المعارف بزرگ اسلامی ویرایش کرد.
پرویز رجبی در پاییز و زمستان ۱۳۸۹ یک دوره سخت بیماری و شیمی درمانی را تحمل کرد ولی همچنان با سخت کوشی تمام به تحقیقات خود ادامه دادتا در ساعت 22:30 دقیقه روز 21 بهمن ماه 90 13جان به جان آفرین تسلیم کرد.
تالیفات
کریم خان زند و زمان او ، ۱۳۵۲، ۱۵۵۴، ۱۳۵۶، ۱۳۷۵
• معماری ایران در عصر پهلوی ، ۱۳۵۶
• جندق و ترود دو بندر فراموش شده کویر بزرگ نمک ، ۱۳۵۳، ۱۳۵۶، ۱۳۸۴
• جشنهای ایرانی ، ۱۳۵۸، ۱۳۷۵ ، ۱۳۸۵
• تاریخ خط میخی فارسی باستان ، ۱۳۵۹
• مهر ایران، ۱۳۷۷
• تخت جمشید بارگاه تاریخ ، ۱۳۷۷
• ارج نامه شهریاری ، ۱۳۸۰
• ایران‌شناسی، فرازها و فرودها ، ۱۳۸۱
• هزاره‌های گمشده: اهورمزدا، زرتشت، اوستا، جلد ۱، ۱۳۸۰، ۱۳۸۳
• هزاره‌های گمشده: هخامنشیان به روایت، جلد ۲، ۱۳۸۰، ۱۳۸۳
• هزاره های گمشده: از خشیارشا تا فروپاشی هخامنشیان، جلد ۳، ۱۳۸۰، ۱۳۸۳
• هزاره‌های گمشده: اشکانیان، جلد ۴ ، ۱۳۸۱ ، ۱۳۸۳
• هزاره های گمشده: ساسانیان، جلد ۵ ، ۱۳۸۲ ، ۱۳۸۳
• ترازوی هزارکفه ، ۱۳۸۳
• شما در این خانه حقی ندارید ، ۱۳۸۳
• ایران، ۱۳۸۴
• سده‌های گمشده، مجلد ۱، از فتح ایران به دست اعراب تا بر آمدن صفاریان (۱۳۸۵)
• سده‌های گمشده، مجلد ۲، صفاریان، سامانیان، غزنویان، غوریان (۱۳۸۵)
• سده‌های گمشده، مجلد ۳، علویان، دیلمیان، آل زیار و آل بویه (۱۳۸۵)
• سده های گمشده، مجلد ۴، سلجوقیان (۱۳۸۷)
• فرمایش‌های شاهان، آماده چاپ در سال ۱۳۸۵
• سفرنامه اونور آب، ۱۳۸۴-۱۳۸۵
• خوشا شیراز...، زیر چاپ، ۱۳۸۵
• تاریخ جامع کاشان، برای بنیاد کاشان.
• تاریخ ایران در دوره ایلامی، مادی و هخامنشی (کتاب درسی دانشگاه پیام نور)، ۱۳۸۴
• تاریخ ایران در دوره سلوکیان و اشکانیان (کتاب درسی دانشگاه پیم نور) ۱۳۸۴
ترجمه:
نام نویسنده، نام اثر، سال
سون هدین، کویرهای ایران، ۱۳۵۴
آلفونس گابریل، مارکوپولو در ایران،۱۳۵۴ و۱۳۸۱
کارستن نیبور، سفرنامه نیبور،۱۳۵۵
ویلهم لیتن، ماه عسل ایرانی، ۱۳۵۵و۱۳۸۵
هایدماری کخ، از زبان داریوش ده چاپ، ۱۳۸۳-۱۳۷۵
والتر هینتس، یافته‌های نو،۱۳۸۵
والتر هینتس، داریوش و ایرانیان جلد ۱،۱۳۸۵
والتر هینتس، داریوش و ایرانیان جلد ۲، ۱۳۸۵
، نامنامه ایران باستان، ۱۳۸۰ آماده چاپ
والتر هینتس، شهریاری ایلام، 1389
، ارنست گروبه، ارنست گروبه، هنر جهان اسلام
مقالات
صدها مقاله ی علمی در مجلات و دانشنامه ها ی معتبر کشور
داستان ها
• شهرما (مجموعه قصه)، ۱۳۵۲، ۱۳۸۴
• ماهی قرمز حوض همسایه (مجموعه قصه)، ۱۳۵۷
• دشنه و سیب گمشده (رمان)، ۱۳۷۹
• لاهوت (رمان)، ۱۳۸۴
• سیمرغ (رمان)، ۱۳۸۵