تحقق جمهوریت از طریق تشکیل مجلس شورای اسلامی و تحقق اسلامیت در قوانین از طریق تشکیل نهاد شورای نگهبان، است با وجود رهبری در راس نظام جمهوری اسلامی، تدوین کنندگان قانون اساسی در سال 1358 تشکیلات و جایگاه جداگانه‌ای برای حل اختلاف بین دو نهاد جمهوریت و اسلامیت پیش‌بینی نکرده بودند.
تا اینکه در سال 1366نخستین قدم‌ها برای تشکیل مجمع تشخیص مصلحت نظام برداشته شد.
در سال های نخست شکل گیری نهادهای قانونگذاری اختلافات عمدتاً در 2 موضوع قانون کار و قانون اراضی شهری بیش از همه ظهور پیدا کرد.
سرانجام پس از مکاتباتی بین مقامات عالیرتبه و ذی‌ربط وقت کشور، درخواستی در بهمن ماه 1366 به امضاء رئیس جمهور وقت حضرت آیت‌الله سیدعلی‌خامنه ای، رئیس وقت مجلس شورای اسلامی حجتالاسلام اکبر هاشمی رفسنجانی، رئیس وقت دیوان عالی کشور آیت الله عبدالکریم موسوی اردبیلی، نخست وزیر وقت مهندس میرحسین موسوی و مرحوم حجتالاسلام حاج سید احمد خمینی برای چاره‌جویی در این باره، تقدیم امام خمینی شد.
نویسندگان نامه خطاب به معظم له، از ایشان خواستند تا برای حل عملی موارد اختلافی مجلس و شورای نگهبان، مرجعی را تعیین کنند که با تشخیص آن مرجع، اختلافات مرتفع و معضلات حل شود.در این نامه که در بهمن ماه 1366 خدمت امام نوشته شد،آمده است: اطلاع یافته ایم که جنابعالی درصدد تعیین مرجعی هستید که در صورت حل نشدن اختلاف مجلس و شورای نگهبان از نظر شرع مقدس یا قانون اساسی، با تشخیص مصلحت نظام و جامعه، حکم حکومتی را بیان نماید. در صورتی که در این باره به تصمیم رسیده باشید، با توجه به اینکه هم اکنون موارد متعددی از مسایل مهم جامعه بلاتکلیف مانده، سرعت عمل مطلوب است (امضا کنندگان:عبدالکریم موسوی، سید علی خامنه ای، احمد خمینی،میر حسین موسوی، اکبر هاشمی رفسنجانی)
پاسخ امام خمینی به این نامه بدین شرح بود: بسم‌الله الرحمن الرحیم/ گرچه به نظر اینجانب پس از طی این مراحل، زیر نظر کارشناسان که در تشخیص این امور مر جع هستند، احتیاج به این مرحله نیست، لکن برای غایت احتیاط در صورتی که بین مجلس شورای اسلامی و شورای نگهبان شرعا و قانونا توافق حاصل نشد، مجمعی مرکب از فقهای محترم شورای نگهبان و حضرت حجج اسلام آقایان خامنه ای، هاشمی، اردبیلی، توسلی، موسوی خوئینی‌ها و جناب آقای میر حسین موسوی و وزیر مربوط برای تشخیص مصلحت نظام اسلامی تشکیل گردد و در صورت لزوم رای اکثریت اعضای حاضر این مجمع مورد عمل قرار گیرد. احمد در این مجمع شرکت می نماید تا گزارش جلسات به اینجانب سریعتر برسد.
دوره اول؛ آغاز
فعالیت مجمع را می توان به 5 دوره تقسیم کرد : دوره نخست شکل گیری مجمع سال 1366 تا سال 1368 است که به نوعی آغاز فعالیت این مجمع نیز محسوب می شود. در این دوره وجود جنگ تحمیلی و شرایط خاص سیاسی و اجرایی کشور از ویژگیهای خاص دوره یاد شده می‌توان برشمرد. ترکیب اعضای مجمع دراین دوره یاد شده بدین شرح بود:
الف: فقهای شورای نگهبان
ب: آیت الله سیدعلی خامنه ای (رئیس جمهور وقت) – حجتالاسلام والمسلمین اکبر هاشمی رفسنجانی (رئیس مجلس وقت ) – آیت‌الله عبدالکریم موسوی اردبیلی (رئیس شورای عالی قضائی ) - توسلی محلاتی– سید محمد موسوی خوئینی‌ها و میر حسین موسوی (نخست وزیر وقت ).
ج: حجت الاسلام سید احمد خمینی (فرزند حضرت امام )برای ارائه گزارش جلسات به حضرت امام.
دوره دوم؛ تثبیت
مجمع در پایان جنگ تحمیلی در سال 1368 پس از بازنگری قانون اساسی در این قانون و با وظایف احصاء شده در بندها و اصول 110، 111، 112 و 177 شکل گرفت. ترکیب اعضای مجمع طی دوره دوم بر اساس حکم مورخ 12/7/68 مقام معظم رهبری، حضرت آیت الله خامنه ای بدین شرح شکل گرفت:
فقهای شورای نگهبان (6نفر)،روسای قوای سه گانه،وزیر مربوط ( وزیری که موضوع مورد بحث مجمع مربوط به وی می‌شود)،رئیس کمیسیون مربوط در مجلس شورای اسلامی (در صورتی که موضوع بحث در مجمع مربوط به وی شود) و: محمدرضا مهدوی کنی - یوسف صانعی - سید احمد خمینی - سید محمّد موسوی خوئینی‌ها - محمّدعلی موحدی کرمانی - حسن صانعی - محمّدرضا توسلی - عبدالله نوری و میرحسین موسوی.
دوره سوم؛ رشد
دوره سوم مجمع که با افزایش اعضای حقیقی متشکل از شخصیتهای عالی رتبه کشور در سال 1375 همراه بود، مجمع را وارد دوران جدیدی از پویایی و بالندگی در جهت انجام کامل وظایف قانونی نمود.
ترکیب اعضای مجمع طی دوره سوم براساس حکم مورخ 27/12/75 بدین شرح است:
شخصیتهای حقوقی عضو :
الف: روسای سه قوه مجریه، مقننه و قضائیه
ب: فقهای شورای نگهبان
ج: وزیر یا رئیس دستگاهی که موضوع مورد بحث در مجمع مربوط به آن می شود
و شخصیتهای حقیقی: هاشمی رفسنجانی، مهدوی کنی، امینی نجف آبادی، عباس واعظ طبسی، احمد جنتی، محمد امامی کاشانی، حسن حبیبی، میر حسین موسوی، علی‌اکبر ولایتی، محمدی ری شهری، حسن صانعی، حسن روحانی، موسوی خوئینی‌ها، حبیب‌الله عسگر اولادی، قربانعلی دری نجف آبادی، علی لاریجانی، مصطفی میر سلیم، توسلی محلاتی، عبدالله نوری، مرتضی نبوی، سید حسن فیروز آبادی، غلامرضا آقازاده، بیژن نامدار زنگنه، محمّد هاشمی، محسن نوربخش، محسن رضائی (دبیر مجمع) این افراد به موجب حکم مورخ 27/12/1375برای یک دوره 5 ساله انتخاب شدند و هاشمی رفسنجانی نیز توسط مقام معظم رهبری به عنوان رئیس مجمع تشخیص مصلحت منصوب شد.
دوره چهارم؛ پویایی
دوره چهارم مجمع را می‌توان فعال ترین و سازمان یافته ترین دوران مجمع نام برد،که در سال 1380 اعضای جدید مجمع طی حکم مقام معظم رهبری برای مدت 5 سال به ریاست حجتالاسلام والمسلمین «هاشمی رفسنجانی» انتخاب شدند.
سایر اعضا عبارت‌اند از:
1 - شخصیتهای حقوقی عضو، عبارتند از: الف: روسای سه قوه، ب: فقهای شورای نگهبان، ج: وزیر یا رییس دستگاهی که موضوع مورد بحث در مجمع، مربوط به آن دستگاه است، د: رییس کمیسیون مناسب با موضوع مورد بحث از مجلس شورای اسلامی
2 - شخصیتهای حقیقی عضو، عبارتند از :حجج اسلام و آیات و حضرات: آقایان «هاشمی رفسنجانی»، «امینی نجف آبادی »، «واعظ طبسی»، «جنتی»، «امامی کاشانی»، «موحدی کرمانی»، «حسن حبیبی»، «میرحسین موسوی»، «علی اکبر ولایتی»، «محمدی ری شهری»، «حاج شیخ حسن صانعی»، «حسن روحانی»، «حبیب الله عسگراولادی»، «دری نجف آبادی»، «علی لاریجانی»، «مصطفی میرسلیم»، «توسلی محلاتی»، «مرتضی نبوی»، «فیروز‌آبادی»، «غلامرضا آقازاده»، «بیژن نامدار زنگنه»، «محمد هاشمی»، «محسن رضایی»، «علی‌اکبر ناطق نوری»، «محمدرضا عارف»، «غلامعلی حداد عادل»، «مجید انصاری»، «حسین مظفر»، «محمدرضا باهنر» و «محمدجواد ایروانی ».
در ادامه حکم مقام معظم رهبری تصریح شد که جلسات مجمع در هنگام بحث در مصوبات مورد تعارض مجلس و شورای نگهبان، متشکل خواهد بود از همه اعضای نامبرده و دیگر جلسات، متشکل خواهد بود، از اعضای حقیقی به اضافه ردیف «الف» و «ج» و «د» از بند 1.
مهدی کروبی نیز پس از اتمام دوره نمایندگی و ریاست مجلس ششم طی حکمی از سوی مقام معظم رهبری به عضویت مجمع تشخیص مصلحت نظام تعیین شد، هر چند که خود بعد از دور اول انتخابات ریاست جمهوری نهم از مجمع کنار رفت.