بنای اصلی و اولیه آرامگاه سعدی مربوط به دوره اتابکان فارس است و نخستین‌بار ابن بطوطه مراکشی در حدود سال 750 قمری آن را مشاهده کرد.
این مکان در ابتدا خانقاه سعدی بوده که وی اواخر عمرش را در آنجا می‌گذرانده و سپس در همانجا دفن شده است. برای نخستین‌بار در قرن هفتم توسط خواجه شمس الدین محمد صاحبدیوانی وزیر معروف آباقاخان، مقبره‌ای بر فراز قبر سعدی ساخته شد.
در سال ۹۹۸ به حکم یعقوب ذوالقدر، حکمران فارس، خانقاه شیخ ویران شد و اثری از آن باقی نماند. در سال ۱۱۸۷ قمری به دستور کریمخان زند، بنایی ۲ طبقه معروف به عمارتی ملوکانه از گچ و آجر بر بالای مزار سعدی بنا شد.
در دوره قاجاریه توسط فتحعلی شاه این بنا مرمت شد و چند سال بعد نیز حبیب الله خان قوام الملک دستور تعمیر و ترمیم قسمتی از بنا را صادر کرد.
بنایی که در زمان کریمخان ساخته شده بود تا سال ۱۳۲۷ شمسی برپا بود و شامل یک ساختمان 2 طبقه آجری مرکب از چند اتاق و طبقه زیرین آن یک متر بلندتر بود.
بنای کنونی این آرامگاه به دستور محمدرضا پهلوی به وسیله انجمن آثار ملی ساخته و در سال 1331 رسما افتتاح شد. این بنا با اقتباسی از چهل ستون اصفهان و ابنیه قدیمی دیگر با معماری جدید ساخته شده است.
ساختمان به سبک ایرانی است با ۸ ستون از سنگ‌های قهوه‌ای رنگ که در جلوی مقبره قرار دارند و اصل بنا با سنگ سفید و کاشی کاری مزین است. بنای آرامگاه از بیرون به شکل مکعبی است اما در داخل هشت ضلعی می‌باشد با دیوارهایی از جنس مرمر و گنبدی لاجوردی.
زیربنای اصلی آرامگاه حدود ۲۵۷ متر مربع می‌باشد. ساختمان اصلی آرامگاه شامل دو ایوان عمود بر هم می‌باشد که قبر شیخ در زاویه این دو ایوان قرار گرفته‌است.
روی آرامگاه گنبدی از کاشیهای فیروزه‌ای رنگ ساخته شده‌است. سنگ‌های پایه‌های بنا، سیاه رنگ است و ستون‌ها و جلوی ایوان از سنگ گرانتیت قرمز مخصوصی ساخته شده‌است. نمای خارجی آرامگاه از سنگ تراورتن و نمای داخلی آن از سنگ مرمر است.
سنگ قبر در وسط عمارتی 8 ضلعی قرار دارد و سقف آن با کاشیهای فیروزه‌ای رنگ تزیین شده‌است. در 7 ضلع ساختمان، 7 کتیبه قرار دارد که از قسمت‌هایی از گلستان، بوستان، قصاید، بدایع و طیبات شیخ انتخاب شده و به خط «ابراهیم بوذری» نوشته شده‌است. متن یک کتیبه دیگر از «علی اصغر حکمت» است که در مورد چگونگی ساخت بقعه توضیحاتی داده.
بنا در سمت چپ به رواقی متصل می‌شود که در آن 7 طاق وجود دارد که با کف‌سازی سیاه رنگ به آرامگاه شوریده شیرازی پیوند می‌خورد. این آرامگاه در یک اتاق قرار دارد و کتیبه‌ای بر سر در آن است که شاعر را معرفی می‌کند و شعری از خود شاعر بر کاشیهای سرمه‌ای بر روی دیوار نوشته شده‌است.
در اطراف مقبره سعدی، قبور زیادی از بزرگان دین وجود دارند که بنا به وصیت خود، در آنجا مدفون شده‌اند از جمله مهمترین‌های آن می‌توان شوریده شیرازی را نام برد که آرامگاهش به وسیله رواق به آرامگاه سعدی متصل شده‌است.
آرامگاه شیخ مصلح الدین سعدی شیرازی در سال 1354 توسط وزارت فرهنگ و هنر با شماره 1010 در فهرست آثار ملی ایران به ثبت رسید.