پدر و پدربزرگش از روحانیون این شهر بودند. جد بزرگش، حاجمحسن، بازرگان بود و به یاری منوچهرخان معتمدالدوله گرجی، نخستین چاپخانه ایران را بنیاد نهاده بود.
آقابزرگ تحصیلات مقدماتی خود را در مدرسه دانگی آغاز کرد و در مدرسه پامنار و سپس در مدرسه فخریه (مروی) ادامه داد. وی ادبیات عرب را نزد شیخمحمدحسین خراسانی و شیخمحمدباقر معزوالدوله، منطق را نزد میرزامحمدتقی، سطوح اصول را نزد سیدعبدالکریم مدرسی، سیدمحمدتقی گرکانی و شیخعلینورایلکایی آموخت و اندکی ریاضیات نیز نزد میرزاابراهیم زنجانی فراگرفت و بعدها به مطالعاتی در تاریخ ادبیات و رجال حدیث پرداخت.
وی در 10 جمادیالثانی 1315 به قصد ادامه تحصیل به نجف رفت و تا سال 1329 در این شهر به کسب دانش پرداخت.
در سال 1329 به کاظمین رفت و به منظور تدوین بزرگترین دایرهالمعارف کتابشناسی شیعی- الذّریعهالیتصانیفالشّیعه- به تحقیق و تتبع پرداخت. چندی بعد به سامرا رفت و ضمن ادامه کار خود در آنجا، در مجلس درس میرزامحمدتقی شیرازی نیز حاضر شد. در سال 1335 به کاظمین بازگشت، دو سال درآنجا ماند و باز به سامرا رفت.
در 1354 به نجف بازگشت و به منظور چاپ الذریعه، چاپخانهای به نام مطبعهالسعاده بنیاد نهاد، اما دولت پادشاهی عراق به بهانههای گوناگون مانع کار وی شد. شیخ جلد نخستین ذریعه را در مطبعهالغری به چاپ رساند، اما انتشار آن، باز هم درنتیجه مخالفت دولت عراق شش ماه به تعویق افتاد.
آقابزرگ برای تدوین و تکمیل این دایرهالمعارف به سفرهای طولانی نیز پرداخت. از بیشتر کتابخانههای عمومی عراق و ایران و سوریه و فلسطین و مصر و حجاز و بسیاری از کتابخانههای خصوصی در این کشورها دیدن کرد و به بررسی کتب آنها پرداخت. وی در 62 کتابخانه شخصاً کاوش کرد و فهرستهای بسیاری از کتابخانههای دیگر را نیز مورد مطالعه قرارداد.
آقابزرگ دو بار ازدواج کرد و دارای 5 پسر و 4 دختر شد. وی پس از یک بیماری طولانی در نجفاشرف در ذیالحجه سال 1389قمری درگذشت و بر طبق وصیتش، در کتابخانه خود که آن را برای استفاده علما و طلاب وقف کرده بود، به خاک سپرده شد.
مهمترین آثار آقابزرگ تهرانی:
- الذریعه الی تصانیفالشیعه
- طبقاتاعلامالشیعه
- مصفیالمقال فی مصنفی علمالرجال
- المشیخه، نجف
- هدیهالرازی الیالمجددالشیرازی
- النقداللطیف فی نفیالتحریف عنالقرآنالشریف (خطی)
- توضیحالرشاد فی تاریخ حصرالاجتهاد
- تفنید قولالعوام بقدمالکلام (خطی)
- ذیلالمشیخه
- ضیاءالمفازات فی طریق مشایخالاجازات، (خطی)
- اجازاتالطوسی نجف
- مستدرک کشفالظنون
منبع مورد استفاده برای این مدخل