او در خانواده‌ای اهل علم و فضیلت رشد کرد و برای نخستین بار در مکتب پدرش ابوالحسن آغاز به یادگیری مفاهیم اسلامی و درس تقوا کرد و تحصیلات دینی خود را در مدارس رضویه و فیضیه قم به پایان‌رساند.آیت‌الله طالقانی در زمان طلبگی آشنایی فراوانی با امام(ره) داشت و روابط متقابل آن‌دو، بسیاری را در شگفتی افکنده بود.
مرحوم آیت‌الله طالقانی موفق به کسب اجازه نامه اجتهاد از مرجع بزرگ آن روز آیت‌الله حاج شیخ عبدالکریم حائری یزدی شده و بعد از اتمام تحصیلات به تهران آمده و در مدرسه شهید مطهری (سپهسالار سابق) به تدریس علوم دینی مشغول شد.
در سال1318 برای نخستین بار خشم خویش را نسبت به رژیم و دستگاه حکومتی، با دادن یک اعلامیه در رابطه با کشف حجاب ابراز کرد و در پی آن دستگیر و زندانی شد.پس از شهریور 1320ش با تشکیل گروه‌های گوناگون سیاسی، مبارزه را به‌طور رسمی آغاز کرد اما طولی نکشید که این دوران را وقفه‌ای پیش آمد؛ چرا که پس از کودتای 28مرداد سال1332، ساواک، مرحوم طالقانی را به جرم مخفی‌کردن نواب صفوی در خانه‌اش، دستگیر کرد و به زندان افکند اما این دستگیری کوتاه و موقت بود و به‌زودی وی آزاد شد و فعالیت دوباره را آغاز کرد.
مرحوم طالقانی در کنگره جهانی شعوب‌المسلمین که در کراچی تشکیل می‌شد، شرکت کرد و نیز در کنگره اسلامی قدس که سالی یک بار تشکیل می‌شد، دوبار در مقام ریاست هیأت نمایندگی ایران به بیت‌المقدس سفر کرد.
تاسیس دارالتقریب بین‌المذاهب الاسلامیه که در نزدیکی تشیع و تسنن سهمی بسزا داشته، یکی از بزرگ‌ترین اقدامات قرن اخیر به‌شمار می‌رود. آیت‌الله طالقانی همچنین به نمایندگی مرحوم آیت‌الله‌العظمی بروجردی(ره) برای رساندن پیام ایشان به شیخ شلتوت- هم او که جواز تقلید از وی را صادر کرد- به آن دیار مسافرت کرد.آیت‌الله طالقانی در جریان نهضت ملی شدن صنعت نفت ایران، مبارزات ارزنده‌ای داشت و تلاش‌های فراوانی در جهت رهانیدن حقوق ملت مسلمان ایران از چنگال استعمارگران چپاول پیشه انجام داد.
پس از شکل‌گیری نهضت روحانیت به رهبری امام خمینی(ره) در سال1341 و طرح مسائلی چون انجمن‌های ایالتی و ولایتی و انقلاب به‌اصطلاح سفید، به پیروی از امام(ره) به مخالفت با رژیم پرداخت و به‌دلیل فعالیت‌های زیاد در همان سال به زندان افتاد و پس از آزادی مجدداً در سال1342 در ارتباط با وقایع 15 خرداد دستگیر و به 10سال زندان محکوم شد.
آیت‌الله طالقانی در زندان نیز دست از مبارزه و ارشاد بر نداشت، رفتار و گفتار مناسبش حتی روی مأموران زندان اثر مثبت گذاشت و در پی همین تلاش‌های فرهنگی و تبلیغی بود که در زندان، با نوشتن تفسیر «پرتوی از قرآن» سعی در آشنا کردن افراد به عظمت و سازندگی قرآن کرد. ایشان درباره خود می‌گوید: من پیش از اینکه در کسوت یک سیاستمدار متعارف و معمول باشم یک شاگرد کوچک مکتب قرآن و معلم قرآنم.زندانی شدن آیت‌الله طالقانی در این مرحله بیش از 4سال طول نکشید و در سال 1346 به واسطه فشارهای داخلی و خارجی بر رژیم شاه از زندان آزاد شد. ایشان بعد از آزادی مبارزه را همچون گذشته ادامه داد و در آستانه سال 1350 همزمان با برگزاری جشن‌های 2500ساله شاهنشاهی دستگیر شد و به‌مدت 3سال در زابل و 18ماه در بافت کرمان در بدترین شرایط به حالت تبعید به‌سر برد.
آیت‌الله در سال 1354 مجدداً به دست ساواک گرفتار شد و به 10 سال زندان محکوم شد. آیت‌الله طالقانی در دوران انقلاب اسلامی، پس از آزادی از زندان نهایت تلاش خود را در جهت پیروزی انقلاب کرد و پس از پیروزی به ریاست شورای انقلاب اسلامی برگزیده شد و در انتخابات مجلس خبرگان قانونگذاری (12مرداد1358) از سوی مردم تهران به‌عنوان نماینده انتخاب شد.در اوایل مرداد 1358 از سوی امام خمینی(ره) مأمور تشکیل نماز جمعه تهران شد و نخستین و باشکوه‌ترین نماز جمعه بعد از پیروزی انقلاب اسلامی در پنجم مرداد به امامت ایشان در دانشگاه تهران برگزار شد.
سرانجام در سحرگاه نوزدهم شهریور سال1358هـ . ش این عالم مجاهد پس از سال‌ها فعالیت‌های علمی و مبارزات سیاسی علیه رژیم ستمشاهی و عمری تلاش خستگی‌ناپذیر در راه پیاده کردن احکام اسلام، در اثر سکته قلبی دارفانی را وداع گفت و به دیدار یار شتافت.