Urodził się w Kielcach w roku 1919. Pochodził z wyznającej judaizm, spolonizowanej rodziny żydowskiej. Studiował dwa lata filologię polską na Uniwersytecie Warszawskim, publikując w tym czasie na łamach kilku czasopism i redagując pismo „Orka na Ugorze”. Już w październiku 1939 roku założył wraz z kolegami jedną z pierwszych w Polsce organizacji konspiracyjnych.

Aresztowany przez NKWD po agresji ZSRR na Polskę, podczas próby przejścia niemiecko-sowieckiej linii demarkacyjnej. Skazany na pięć lat pobytu w obozach, został osadzony w łagrze na Dalekiej Północy, z którego zwolniony został na mocy układu Sikorski-Majski w 1942 roku. Jako przedwojenny sympatyk Polskiej Partii Socjalistycznej dał się poznać jako krytyk dyktatury komunistycznej w Polsce i całej Europie Środkowo-Wschodniej. Przez cały okres komunizmu w Polsce pozostał na wygnaniu jako polski emigrant polityczny. Kawaler Orderu Orła Białego. Dramatyczne przeżycia z tego okresu znalazły swoje odzwierciedlenie w najsłynniejszej książce Herlinga-Grudzińskiego „Inny Świecie”.

W 1998 roku powstał film dokumentalny o Gustawie Herlingu-Grudzińskim zatytułowany „Rozważania o cnotach”, emitowany w formie 10 odcinków w TVP2.