1918. december 11-én született Kiszlovodszkban. Kozák eredetű módos parasztcsaládból származott, anyja nevelte, apja még a fiú születése előtt baleset áldozat lett. Sok minden érdekelte, a rosztovi egyetem matematika-fizika szakát és a moszkvai irodalmi főiskolát párhuzamosan végezte el, végül matematika- és csillagászat-tanár lett.

1941 októberében bevonult, a világháborúban tüzérként szolgált, többször kitüntették. Szabadidejében naplót vezetett és novellákat írt. A katonai elhárítás felfigyelt levelezésére, melyben Sztálint Bandavezérként emlegette, s 1945-ben 8 év kényszermunkára ítélték. Moszkva közelében, egy zárt kutatóintézetben akusztikai lehallgató-készülék kifejlesztésével foglalkozott, itt számos kiváló tudóssal találkozott, a börtönfolyosó lett az akadémiája. Kazahsztánba kerülve kőművesként dolgozott, a lágerben "írt" műveit emlékezetében rögzítette. Szabadon bocsátása után még három évet kényszerlakhelyen kellett töltenie, befőttesüvegben ásta el írásait, közben parkettalerakással foglalkozott. A sztálini kultusz leleplezése után 1956-ban rehabilitálták, s ismét tanár lett Rjazanyban.

1959-ben három hét alatt írta meg kisregényét az Ivan Gyenyiszovics egy napját, amelyet a Novij Mir című folyóiratnak küldött el. A mű 1962-ben, a hruscsovi olvadás idején jelent meg, ebben a saját élményei alapján mutatta be a lágerek rabjainak életét. Egyszerű nyelvezetével és hitelességével revelációként hatott Oroszországban és külföldön is. 

Hruscsov 1964-es bukása után azonban már nem közölték műveit a szovjet sajtóban, egyre élesebben támadták, zaklatták. A pokol tornácán és a Rákosztály című regényeket szamizdatban, illetve nyugaton adta ki. Az első egy börtönbeli kutatóintézet világába vezeti be olvasóit, ahol ő is dolgozott. A tudósok dilemmája: vagy együttműködnek a hatóságokkal, vagy megtagadják azt, és visszakerülnek a munkatáborba. A Rákosztály önéletrajzi alapja: az író Kazahsztánban került rák gyanújával kórházba, de ott szerencsésen felépült. 

1967-ben nyílt levélben fordult az írószövetséghez, amelyben szót emelt a cenzúra eltörlése mellett és követelte az ellene indított hajsza leállítását. Válaszul az írószövetség 1969-ben kizárta tagjai közül a renitens írót, Szolzsenyicin pedig Szaharov és mások mellett tagja lett a szovjet polgárjogi mozgalomnak.

1969-ben lett Natalja Szvetlova az élettársa, egyben titkára és lektora is. 1970-ben Szolzsenyicinnek ítélték az irodalmi Nobel-díjat, de nem ment ki Stockholmba, mert félő volt, hogy nem engedik haza. 1971-ben külföldön jelent meg 1914 augusztusa című történelmi regénye, amely az orosz vereséggel végződő tannenbergi csatával foglalkozik, s feltárja a cárizmus hibáit, melyek az 1917-es forradalomhoz vezettek. 1973-ban Párizsban adták ki A GULAG szigetvilág első kötetét (a kéziratot még 1968-ban csempésztette külföldre). Ebben történetíróként és szociografikusként tárja fel a munkatáborok és börtönök rendszerét s az áldozatok szenvedéseit. A műben adatok, emlékezések és interjúk keverednek. Ennek nyomán otthon sajtókampány indult ellene, letartóztatták, 1974-ben hazaárulás vádjával elítélték, majd kiutasították az országból.

Stockholmban ekkor vehette át a Nobel-díjat, Zürichben írt röpiratában alkut ajánlott a szovjet vezetésnek: leáll támadásaival, ha lemondanak a nemzetellenes marxizmusról és nemzeti hivatásukat teljesítik. Lenin Zürichben című könyvének 1975-ös kiadása után az Egyesült Államokba költözött, ahol a vermonti Cavendish-ben telepedett le. Kiadta a GULAG 2. és 3. kötetét, majd 1980-ban további két esszét: A tölgy és a borjú a szovjet irodalmi életet mutatja be, A halálos veszedelem az amerikaiak téves Oroszország-képét elemzi. Folytatta történelmi sorozatát, a második rész 1916 októbere, a harmadik 1917 márciusa, a negyedik 1917 áprilisa címmel jelent meg, összefoglaló címe Vörös kerék lett.

Szolzsenyicin az emigrációban egyre inkább erkölcsprédikátori, ideológusi és modernizmus-ellenes filozófusi alapállást vett fel. Konzervatív elvei alapján elutasította a demokrácia és liberalizmus nyugati értékeit, Oroszország számára egy tekintélyuralmi, nemzeti, keresztény rendszert tekintett optimálisnak. A "Szent Oroszország" utolsó képviselőjévé vált, végletesebb prófétává, mint Tolsztoj és Dosztojevszkij volt. 

Az 1980-as évek közepétől, a gorbacsovi glasznosztynak köszönhetően művei ismét megjelenhettek hazájában. 1990-ben visszakapta állampolgárságát, 1994-ben hazatért, az Orosz Tudományos Akadémia tagja lett, de hatása jóval kisebb volt már, mint korábban. 1991-ben jelent meg Hogyan mentsük meg Oroszországot? című röpirata. 200 év együtt című, 2001-ben kiadott könyve az oroszok és zsidók együttélésével foglalkozik, különösen a népcsoport szerepével a szovjet ellenzéki mozgalmakban. 

Szolzsenyicin legjobb műveiben krónikás és vádló, történész és riporter, portréista és dokumentátor, a megkínzottak és meggyilkoltak képviselője, az évtizedeken át titkolt bűnök leleplezője. Ezt írta magáról: "Irodalmi sorsom nem az én sorsom, hanem azoké a millióké, akik nem tudták már papírra kaparni, elsuttogni, elhörögni azt, ami a börtönben, a lágerben történt velük."
 
Az író már hosszabb ideje betegeskedett, de még aktívan dolgozott. Feleségével, Natalja Dmitrijevnával összegyűjtött művei 30 kötetes kiadásán munkálkodott. Otthonában, szívelégtelenség következtében halt meg.