پدرش نجیب‌الدین علی مروی درودگر بود. مادر او مسیحی نسطوری بود که به اسلام گرویده بود. عمویش کافی‌الدین عمر طبیب و فیلسوف بود و خاقانی تا بیست و پنج سالگی در سایهٔ حمایت او بود و در نزد او انواع علوم ادبی و حکمی را فرا گرفت. چندی نیز در خدمت ابوالعلاء گنجه‌ای شاعر بزرگ معاصر خود که در دستگاه شروانشاهان به سر می‌برد، کسب فنون شاعری کرد. پس از آنکه ابوالعلاء وی را بخدمت خاقان منوچهر شروانشاه معرفی کرد لقب «خاقانی» بر او نهاد. از ان پس خاقانی نزدیک به چهل سال وابسته به دربار شروانشاهان و در خدمت منوچهر شروانشاه، و پسر و جانشین او اخستان شروانشاه بود.
در حدود سال ۵۵۰ به امید دیدار استادان خراسان و دربارهای مشرق روی به عراق نهاد و تا ری رفت. در آنجا بیمار شد، و والی ری او را از ادامه سفر بازداشت و خاقانی مجبور به بازگشت به «حبسگاه شروان» گشت.
پس از مدتی توقف در شروان به قصد حج و دیدن امرای عراقین از شروانشاه اجازهٔ سفر گرفت و در زیارت مکه و مدینه چندین قصیده سرود. در حدود سال ۵۵۱ یا ۵۵۲ سرگرم سرودن مثنوی تحفةالعراقین بود. در راه سفر به بغداد، از ایوان مدائن گذر کرد و قصیدهٔ غرای خود را دربارهٔ آن ساخت.
در بازگشت به شروان باز خاقانی به دربار شروانشاه پیوست. لیکن میان او و شروانشاه به علت نامعلومی کدورت ایجاد شد، و آنچنانکه از قصیده‌های حبسیه که در دیوانش ثبت است برمی‌آید یک سالی را در حبس گذراند. بعد از چندی در حدود سال ۵۶۹ قمری به سفر حج رفت و بعد از بازگشت به شروان در سال ۵۷۱ فرزند بیست سالهٔ خود رشیدالدین را از دست داد و بعد از آن مصیبت مرگ همسر و مصائب دیگر بر او وارد شد. از آن پس میل به عزلت یافت و خدمت دربار شروانشاهان کناره گرفت.
در اواخر عمر در تبریز به سر می‌برد و در همان شهر درگذشت و در مقبرةالشعرا در محله سرخاب تبریز مدفون شد.
سال وفات او را ۵۹۵ و هم ۵۸۲ نوشته‌اند.دیوان، شامل قصاید، ترجیعات، مقطعات، غزلها و رباعیات است. دیوان خاقانی به تصحیح سید ضیاءالدین سجادی در سال ۱۳۳۸ در تهران به چاپ رسیده بود.
از جمله آثار خاقانی می‌توان به کتاب‌های زیر اشاره کرد:
دیوان، شامل قصاید، ترجیعات، مقطعات، غزلها و رباعیات است. دیوان خاقانی به تصحیح سید ضیاءالدین سجادی در سال ۱۳۳۸ در تهران به چاپ رسیده بود.
تحفةالعراقین، مثنوی در ۳۲۰۰ بیت که در سال ۵۵۱ تألیف شده است. تحفةالعراقین در شرح نخستین سفر خاقانی به مکه و «عراقین» است و در ذکر هر شهر از رجال و معاریف آن نیز یاد کرده و در آخر هم ابیاتی در حسب حال خود آورده است. تحفةالعراقین به تصحیح یحیی قریب در سال ۱۳۳۰ در تهران به چاپ رسید. پس از آن، چندین نسخه معتبر از تحفةالعراقین شناسایی شد که در این میان نسخه وین (با عنوان ختم‌الغرایب) تاریخ ۵۹۳ هجری را دارد.
منشآت خاقانی، چند نامه از خاقانی است که به بزرگان زمان خود نوشته، و غالباً مشحون از کلمات و جملات عربی دشوار و مترادف و گاهی از اشعار خود خاقانی در آنها هست.
قصاید خاقانی به نسبت در مرتبه‌ای بالا قرار دارد. از او قطعات بسیار خوبی نیز دردست است اما غزلیاتش در سطح قصاید او نیستند. شعر خاقانی سبکی دیریاب و بغرنج دارد و بیشتر، نظمی است هنرمندانه با گرایش‌های سخنوری و دقایق لفظی.
درباره قصاید خاقانی دکتر محمد استعلامی اثری دو جلدی را از سوی انتشارات زوار به بازار عرضه کرد که شرح و تفسیر او بر این اثر مهم است.
همچنین کتاب فرهنگ‌نامه سه جلدی«صور خیال در شعر خاقانی» تالیف سعید مهدوی‌فر نیز از سوی انتشارات زوار به بازار کتاب عرضه شد.