پدرش سید علی حسینی شاهرودی، از استادان حوزه علمیه نجف بود. وی تحصیلات ابتدایی را در مدرسه علویه نجف به پایان رساند و سپس به تحصیلات حوزوی پرداخت.
وی با توجه به موقعیت علمی خانوادگی توانست در مدتی اندک، دروس دوره سطح را به پایان برساند. پس از آن به درس سید محمد باقر صدر رفت. وی به کلاس‌های درس امام خمینی(ره) نیز می‌رفت.
شاهرودی به دلیل فعالیت‌های سیاسی و ارتباط با مجلس اعلای عراق در سال ۱۹۷۴ میلادی، به زندان حکومت بعث عراق افتاد.
پس از پیروزی انقلاب به ایران آمد و رابط امام خمینی(ره) و سید محمد صادق صدر شد و پیام‌های مراجع تقلید ساکن شهر نجف را به امام خمینی می‌رساند. او پس از مرگ حضرت امام و با دستور آیت‌الله خامنه‌ای، مجلس اعلای عراق را دوباره به راه انداخت و آن را مدیریت و سازماندهی کرد.
سید محمود هاشمی شاهرودی سال‌ها از اعضای شورای نگهبان بود تا اینکه با حکم مقام معظم رهبری به ریاست قوه قضائیه جمهوری اسلامی منصوب شد. وی در سال ۱۳۷۸ به عضویت شورای عالی انقلاب فرهنگی درآمد.
مقام معظم رهبری در حکمی پس از پایان دوره ریاست هاشمی شاهرودی در قوه قضائیه جمهوری اسلامی وی را به عضویت در شورای نگهبان و مجمع تشخیص مصلحت نظام منصوب کردند
همچنین ۳ مرداد سال ۱۳۹۰ مقام معظم رهبری در حکمی آیت‌الله هاشمی شاهرودی را به ریاست هیات عالی حل اختلاف و تنظیم روابط قوای سه‌گانه منصوب کردند.
برخی از آثار سید محمود هاشمی شاهرودی:
- بحوث فی علم الاصول؛ تقریرات درس‌های اصول شهید صدر در ۷ جلد
- الخمس، ۲ جلد
- مقالات فقهیه
- قاعده فراغ و تجاوز
- حکومت اسلامی
- جهان بینی اسلامی
- تفسیر موضوعی بخشی از نهج‌البلاغه
- تفسیر آیه مودت ذی القربی
- بحوث فی الفقه
- محاضرات فی الثورة الحسینیة
- الصوم، تربیة و هدایة
- الاجارة، ۲ جلد
- قراءات فقهیة معاصرة، ۲ جلد
- بحوث فی الفقه الزراعی