Il disco presenta una struttura musicale che si orienta verso il thrash metal tecnico e progressivo. Canzoni come "Hangar 18" e "Holy Wars... The Punishment Due" si distinguono non solo per la loro complessità, ma anche perché sono state pubblicate come singoli e accompagnate da videoclip. "Hangar 18", in particolare, ha ricevuto un premio "Top Radio Cut" ai Foundations Forum del 1991, mentre l'album stesso è stato riconosciuto come "Top Radio Album". La tematica lirica affronta questioni come la guerra, le armi nucleari e l'ambiente, con riferimenti specifici come in "Rust in Peace... Polaris", che allude ai missili balistici intercontinentali, o "Holy Wars... The Punishment Due", che fonde la guerra e la figura del personaggio dei Marvel Comics, The Punisher.
La gestazione di Rust in Peace è stata segnata da importanti cambiamenti nella band. Dopo una serie di problemi interni e l'uscita di membri precedenti, Dave Mustaine si è dedicato alla ricerca di nuovi membri. Nella ricerca di un chitarrista, ha considerato musicisti come Dimebag Darrell e Jeff Waters, e si è persino avvicinato all'ex membro Chris Poland. Infine, dopo aver ascoltato il lavoro di Marty Friedman nel suo progetto Dragon's Kiss, Mustaine lo ha convocato per un'audizione, che ha portato alla sua integrazione nella band. La registrazione dell'album ha avuto le sue particolarità, poiché Mustaine è stato assente durante la prima metà a causa di un programma di riabilitazione, lasciando Clink a capo delle parti di basso, batteria e chitarra di Friedman. Successivamente, Micajah Ryan si è occupato di finalizzare le parti di chitarra e voce insieme a Mustaine. Nel 2004, l'album è stato ripubblicato con una versione remixata e rimasterizzata, includendo quattro brani aggiuntivi.