La producción, enteramente a cargo de Jimmy Page, contó por primera vez con la colaboración del ingeniero Eddie Kramer, cuyo trabajo con Jimi Hendrix había impresionado mucho a la banda. Juntos, Page y Kramer lograron un sonido que, según el experto Dave Lewis, sigue sonando actual. El disco se caracteriza por un estilo musical que se aleja del blues más puro para adentrarse en un sonido más pesado, marcado por los riffs de guitarra. De las nueve canciones, seis fueron escritas por la banda, mientras que tres son reinterpretaciones de temas de blues de artistas como Willie Dixon y Howlin' Wolf. Un ejemplo claro de esta fusión es Whole Lotta Love, que se lanzó como sencillo fuera del Reino Unido y llegó a los primeros puestos en muchos países. Otros temas que capturan la esencia de este álbum son Heartbreaker y Moby Dick, esta última mostrando la destreza de Page en la guitarra.
Este álbum, concebido en un periodo de constante movimiento, se grabó y mezcló en distintos estudios de Gran Bretaña y Norteamérica, incluyendo lugares como Londres, Los Ángeles, Memphis y Nueva York. La forma en que se gestó, con ideas surgiendo en habitaciones de hotel y grabaciones realizadas en diferentes ciudades, le dio a Led Zeppelin II una cualidad única. Fue el primer disco de la banda en alcanzar el número uno en el Reino Unido y Estados Unidos. El director de arte David Juniper fue nominado a un Grammy por el diseño del paquete del álbum. Con el tiempo, Led Zeppelin II ha sido reconocido como uno de los álbumes de rock más influyentes y una base para el sonido de muchas bandas de heavy metal posteriores.