La produzione, interamente a cura di Jimmy Page, vide per la prima volta la collaborazione dell'ingegnere Eddie Kramer, il cui lavoro con Jimi Hendrix aveva molto impressionato la band. Insieme, Page e Kramer ottennero un suono che, secondo l'esperto Dave Lewis, suona ancora attuale. Il disco è caratterizzato da uno stile musicale che si allontana dal blues più puro per addentrarsi in un suono più pesante, segnato dai riff di chitarra. Delle nove canzoni, sei furono scritte dalla band, mentre tre sono reinterpretazioni di brani blues di artisti come Willie Dixon e Howlin' Wolf. Un chiaro esempio di questa fusione è Whole Lotta Love, che fu pubblicata come singolo al di fuori del Regno Unito e raggiunse le prime posizioni in molti paesi. Altri brani che catturano l'essenza di questo album sono Heartbreaker e Moby Dick, quest'ultima che mostra l'abilità di Page alla chitarra.
Questo album, concepito in un periodo di costante movimento, fu registrato e mixato in diversi studi in Gran Bretagna e Nord America, inclusi luoghi come Londra, Los Angeles, Memphis e New York. Il modo in cui fu concepito, con idee che nascevano nelle stanze d'albergo e registrazioni effettuate in diverse città, conferì a Led Zeppelin II una qualità unica. Fu il primo disco della band a raggiungere il numero uno nel Regno Unito e negli Stati Uniti. Il direttore artistico David Juniper fu nominato a un Grammy per il design della confezione dell'album. Nel tempo, Led Zeppelin II è stato riconosciuto come uno degli album rock più influenti e una base per il suono di molte band heavy metal successive.