Tra i brani degni di nota c'è Better Git It in Your Soul, dove il piano e gli strumenti a fiato si intrecciano con un ritmo che ricorda i sermoni gospel che Mingus ascoltava da bambino a Watts. Goodbye Pork Pie Hat è un omaggio al sassofonista Lester Young, scomparso poco prima, e la sua linea di basso malinconica divenne un marchio dell'epoca. Boogie Stop Shuffle, invece, è un blues in dodici battute che oscilla tra *stop time* e *shuffle*, con un basso che non smette di muoversi. Fables of Faubus porta invece il peso politico: il brano strumentale nacque perché la Columbia censurò il testo contro il governatore Orval Faubus, sostenitore della segregazione nell'Arkansas. La versione con il testo arrivò solo nel 1960, in un disco pubblicato da Candid. Bird Calls, al contrario, gioca a imitare i suoni degli uccelli, non Charlie Parker come molti credono, e Jelly Roll rende omaggio al pianista Jelly Roll Morton, includendo un omaggio a Sonny Rollins nel solo di piano.
L'album non passò inosservato: nel 2013 entrò nella Grammy Hall of Fame, e nel 2020 la rivista Rolling Stone lo posizionò al 380º posto della sua lista dei 500 migliori album di tutti i tempi. Nel 2003, la Library of Congress lo aggiunse al suo National Recording Registry, e nel 2009 uscì una edizione speciale in due dischi per celebrare i suoi cinquant'anni, con versioni alternative di Bird Calls, Better Git It in Your Soul e Jelly Roll. Curiosamente, le versioni originali dell'LP, tagliate per adattarsi ai 45 minuti di durata, rimasero in alcune ristampe su CD fino al 1998, quando finalmente fu pubblicata la versione completa. Oggi, Mingus Ah Um rimane quel ponte tra accessibilità e ambizione, dove ogni brano sembra una storia raccontata con gli strumenti.