وی در رشته ریاضیات از دانشگاه روستوف فارغ‌التحصیل شد و سپس به صورت مکاتبه‌ای در دانشگاه مسکو ادبیات خواند. او در جنگ جهانی دوم شرکت کرد و به درجه فرماندهی رسته توپخانه رسید. اما در 1945 به علت نوشتن نامه‌ای انتقادی درباره ژوزف استالین بازداشت شد و 8 سال در اردوگاه‌های کار اجباری و سه سال در تبعید به سر برد.
وی در سال 1956 اجازه یافت در مسکو سکونت کند و ضمن تدریس شروع به نوشتن کرد. در سال 1962 با انتشار کتاب یک روز زندگی ایوان دنیسیوویچ به شهرت رسید. پس از انتشار یک مجموعه داستان در سال 1963، دیگر حاضر نشد آثارش را به طور رسمی در کشور چاپ کند.
رمان‌های حلقه گمشده(1968)، بخش سرطانی(1968) و آگوست 1914(1971) در خارج از شوروی چاپ شد و او به شهرت جهانی رسید.
سولژنیتسین در سال 1970 برنده جایزه نوبل ادبی شد اما به خاطر ممانعت از بازگشت وی به کشور، دعوت به استکهلم را رد کرد. با انتشار اولین کتاب از مجموعه اردوگاه‌های کار گولاگ یا مجمع الجزایر گولاگ در سال 1973 در پاریس، مطبوعات شوروی به وی حمله کردند و در پی آن بازداشت و به جرم خیانت محکوم شد.
در سال 1974 از شوروی تبعید شد و به آمریکا رفت و در آن جا به نوشتن ادامه داد. در اواخر دهه 1980 بار دیگر در شوروی مورد توجه قرار گرفت و قسمت‌هایی از کتاب مجمع‌الجزایر گولاک به چاپ رسید.
در سال 1990 رسما تابعیت روسی وی بازگردانده شد و وی سال 1994 به روسیه رفت. او به شدت به روسیه عشق می‌ورزید و ولادیمیر پوتین، در سال 2007 در مراسم باشکوه و مجللی، جایزه دولتی روسیه را به خاطر خدمات بی‌دریغ به میهن، به وی اهدا کرد.
سولژنیتسین در سال 2008 در خانه خود بر اثر سکته قلبی درگذشت.