El sonido de Second Toughest in the Infants tiene ese toque de melodías largas y ricas, como si estuvieran construyendo algo con cuidado. La banda ya no se escondía, se abría más, y eso se notaba en cada canción. Uno de los temas, Born Slippy (NUXX), se volvió un clásico, apareció en la banda sonora de Trainspotting y se convirtió en algo que todo el mundo reconocía.
Grabaron el álbum en Lemonworld Studios, en Londres, entre 1994 y 1995. Fue un trabajo de cuatro tipos, que se conocían y se entendían. El disco duró más de una hora, con diez temas que van de lo electrónico a lo ambiental, pasando por lo experimental. La banda se encargó de producirlo, y lo sacaron por Junior Boy's Own.