تحصیلات ابتدایی را در بروجرد به پایان رساند و در کنار تحصیل در دورة متوسطه به خواست و تشویق پدر بخشی از تعلقات خود را به فراگیری علوم دینی و حوزوی اختصاص داد و ضمن تحصیل فقه و تفسیر و ادبیّات عرب، به شعر عربی هم علاقه‌مند شد.
به دنبال تعطیلی کلاس ششم متوسطه در تنها دبیرستان شهر برای ادامه تحصیل به تهران آمد و رشته ادبی را برگزید و در سال 1319 تحصیلات دبیرستانی را به پایان برد و با وجود آنکه کتابهای سالهای چهارم و پنجم متوسطه ادبی را قبلاً نخوانده بود در میان دانش آموزان رشته ادبی سراسر کشور، رتبه دوم را به دست آورد.
با بازگشایی مجدد دانشگاهها در سال 1320، دکتر عبدالحسین زرین کوب در امتحان ورودی دانشکده حقوق شرکت کرد. با آنکه پس از کسب رتبه اول ،در دانشکده ثبت نام هم کرده بود، اما به الزام پدر، ناچار به ترک تهران شد. در همان ایام، علی اکبر دهخدا که ریاست دانشکده حقوق را به عهده داشت، از اینکه چنین دانشجوی فاضلی را از دست می داد، اظهار تأسف کرده بود.
دکتر زرین کوب پس ازترک دانشکده حقوق به زادگاه خود بازگشت و در خرم آباد و بعد در بروجرد به کار معلمی پرداخت، کاری که به تدریج علاقه جدی بدان پیدا کرد.در دوران معلمی، از تاریخ و جغرافیا و ادبیات فارسی گرفته تا عربی و فلسفه و زبان خارجی و حتی ریاضی و فیزیک و علم الهیات ، را تدریس کرد.سرانجام اشتیاق به تحصیل بار دیگر او را به دانشگاه کشاند.
در سال 1324، پس از آنکه در امتحان ورودی دانشکده علوم معقول و منقول و دانشکده ادبیات حایز رتبه اول شده بود، وارد رشته ادبیات فارسی دانشگاه تهران شد. به هر تقدیر، عبدالحسین زرین کوب در سال 1327 به عنوان دانشجوی رتبه اول از دانشگاه فارغ التحصیل شد و سال بعد وارد دوره دکترای رشته ادبیات دانشگاه تهران گردید و در سال 1334 از رساله دکترای خود با عنوان (نقد الشعر، تاریخ و اصول آن) که زیر نظر بدیع الزمان فروزانفر تألیف شده بود با موفقیت دفاع کرد.
پس از اخذ درجه دکترا، از سوی استاد بدیع‌الزمان فروزانفر، برای تدریس در دانشکده علوم معقول و منقول دعوت شد و در سال 1335 یا رتبه دانشیاری، کار خود را دانشگاه تهران آغاز کرد و به تدریس تاریخ اسلام، تاریخ ادیان، تاریخ کلام و مجادلات فرق، تاریخ تصوف اسلامی و تاریخ علوم پرداخت.
دکتر زرین کوب در سال 1330 در کنار عده ایی از فضلای عصر همچون عباس اقبال آشتیانی ،سعید نفیسی، دکتر معین ،پرویز ناتل خانلری، غلامحسین صدیقی و عباس زریاب، برای مشارکت در طرح ترجمه مقالات دایرة المعارف اسلام (E1) طبع هلند، دعوت شد.
او در ایام تحصیل در تهران، چندی نزد حاج شیخ ابوالحسن شعرانی بپرداخت و با مباحث حکمت و فلسفه، آشنایی بیشتر یافت. از همان روزگار با فلسفه های معاصر غربی نیز آشنا شد و بعد به مطالعه در باب تصوف نیز علاقمند گردید. استاد که از قبل با زبانهای عربی، فرانسوی و انگلیسی آشنا شده بود در سالهای جنگ دوم جهانی، با کمک بعضی از صاحب منصبان ایتالیایی و آلمانی که در آن ایام در ایران به سر می بردند، به آموزش این دو زبان پراخت.
در سال 1323 نخستین کتاب او به نام (فلسفه، شعر یا تاریخ تطور شعر و شاعری در ایران) در بروجرد منتشر شد، در حالی که در این هنگام، حدود چهار سال یا کمی بیشتر از تاریخ تالیف کتاب می گذشت.
وی که از زمان شروع تحصیلات دانشگاهی به عنوان دبیر در دبیرستانهای تهران به تدریس پرداخته بود. از سال 1328، سردبیری مجله هفتگی مهرگان را نیز عهده دار شد که با وجود وقفه هایی، این همکاری تا پنج سال تداوم یافت. در سال 1335 با رتبه دانشیاری، کار خود را در دانشگاه تهران آغاز و به تدریس تاریخ اسلام، تاریخ ادیان، تاریخ کلام و مجادلات فرق، تاریخ تصوف اسلامی و تاریخ علوم پرداخت. در همین سال، برای مدت کوتاهی نیز امور مربوط به انتشارات بنگاه ترجمه و نشر کتاب را به عهده گرفت. پس از دریافت رتبه استادی دانشگاه تهران (1339 ش)، دکتر زرین کوب چندی نیز در دانشسرای عالی تهران ونیز در دانشکده هنرهای دراماتیک تدریس کرد.
مدتی هم در موسسه لغت فرانکلین با مجتبی مینوی به همکاری مشغول شد. در این میان، یکچند سردبیری مجله راهنمای کتاب را پذیرفت (1342 ش)، و فصل خاصی برای ارائه ادبیات معاصر ایران در مجله به وجود آورد. با این حال همکاری وی با نشریات ادواری داخلی به اینجا محدود نمی شود و فعالیت علمی استاد در انتشار مجلاتی همچون سخن، یغما، جهان نو، دانش، علم و زندگی، مهر و فرهنگ ایران زمین، چشمگیر است.
در سالهای 1347 تا سال 1349 در آمریکا به عنوان استاد میهمان در دانشگاهه‌ای کالیفرنیا و پرینستون به تدریس علوم انسانی پرداخت،سپس به دانشگاه تهران انتقال یافت و در دو گروه تاریخ و ادبیات مشغول به کار شد.
دکتر زرین کوب در بسیاری از مجامع و مجالس علمی جهانی شرکت کرده و به عنوان نماینده ایران به ایراد سخنرانی پرداخته است. از این میان پنجمین کنگره اسلامی در بغداد، بیست و ششمین کنگره بین المللی شرقشناسان در دهلی نو، کنگره بین المللی علوم تاریخی در وین، کنگره تاریخ ادیان در ژنو، مجلس بزرگداشت حافظ شیرازی در دوشنبه تاجیکستان، کنگره بزرگداشت نظامی گنجوی در ایتالیا و بعدا در امریکا، مجمع عمومی سردبیران طرح تاریخ تمدن اقوام آسیای مرکزی در پاریس، کنگره بزرگداشت مولوی در مونیخ، کنگره جهانی بزرگداشت خواجوی کرمانی در کرمان، و کنگره همکاریهای اقوام آسیای مرکزی در تهران، تعدادی از این مجالس را شامل می شود.
از دکتر زرین کوب بیش از 50 کتاب در موضوعات مختلف به جای مانده است که از جمله‌آنها می‌توان به کتابهای زیر اشاره کرد:
با کاروان حله، شعر بى دروغ، شعر بى نقاب، از کوچه رندان، سیرى در شعر فارسى، سر نى، بحر در کوزه، پله پله تا ملاقات خدا، پیر گنجه در جست‌وجوى ناکجاآباد، از نى‌نامه (برگزیده مثنوى معنوى)، دو قرن سکوت، تاریخ ایران بعد از اسلام، فتح عرب در ایران (به زبان انگلیسى در تاریخ ایران کمبریج)، تاریخ مردم ایران (دو جلد)، روزگاران ایران، دنباله روزگاران ایران، روزگاران دیگر، ارزش میراث صوفیه، فرار از مدرسه، جست‌وجو در تصوف ایران، دنباله جست‌وجو در تصوف ایران، در قلمرو وجدان، شعله طور (درباره زندگى حلاج)، بنیاد شعر فارسى، ادبیات فرانسه در قرون وسطى، ادبیات فرانسه در دوره رنسانس، متافیزیک، شرح قصیده ترسائیه خاقانى، فن شعر ارسطو، ارسطو و فن شعر . عمده کتابهای دکتر زرین‌کوب از سوی انتشارات سخن به بازار کتاب عرضه شده است.
عبدالحسین زرین‌کوب در 24 شهریور سال 1378 و بعد از طی سال‌ها درد و رنج ناشی از بیماری سرطان به دیار باقی شتافت.