Old Crow Medicine Show

Tras su actuación en el MerleFest, recibieron una invitación para participar en el programa de radio Grand Ole Opry. Esto los llevó a mudarse a Nashville en octubre de 2000, donde fueron apoyados por Marty Stuart. Debutaron en el Grand Ole Opry en enero de 2001 en el Auditorio Ryman, donde el público les brindó una ovación y pidió un "bis", algo poco común en este tipo de eventos. Pronto comenzaron a abrir conciertos para artistas como Dolly Parton y Del McCoury.

En 2003, firmaron un contrato con Nettwerk America y grabaron su primer álbum con David Rawlings como productor. El disco, titulado Old Crow Medicine Show, fue grabado en los RCA Studio B de Nashville y lanzado en febrero de 2004. Incluye su canción más emblemática, "Wagon Wheel", escrita por Ketch Secor utilizando un estribillo de Bob Dylan. La melodía y el coro de "Wagon Wheel" provienen de una demo de Dylan grabada durante las sesiones de Pat Garrett & Billy the Kid en 1973. Aunque nunca fue lanzada oficialmente, la canción apareció en una grabación pirata que Critter Fuqua trajo de Londres. Secor añadió versos a la canción basándose en el material original. El álbum rápidamente alcanzó el número 1 en las listas de bluegrass y fue certificado platino por la RIAA. Critter Fuqua dejó la banda para tratar su adicción al alcohol.

Con Rawlings nuevamente como productor, lanzaron Big Iron World dos años después. Este segundo álbum no solo llegó al número uno en las listas de bluegrass, sino que también entró en las listas oficiales de álbumes. Don Was, otro productor destacado, colaboró con ellos en su tercer álbum en cinco años, Tennessee Pusher. Este trabajo alcanzó el número 50 en las listas oficiales y el 10 en las listas de música country. Posteriormente, la banda se tomó un descanso durante el cual hubo cambios en su formación; Critter Fuqua regresó, y se unieron Chance McCoy, Cory Younts y Gill Landry, mientras que Willie Watson dejó el grupo.

El guitarrista de Flogging Molly, Ted Hutt, produjo su siguiente álbum, Carry Me Back, lanzado en 2012. Con este nuevo productor, las influencias folk se intensificaron. El álbum alcanzó el puesto 22 en el Billboard 200, superando a sus trabajos anteriores, y llegó al cuarto lugar en las listas de música country, permaneciendo en ellas casi un año. También lograron por primera vez el número 1 en las listas de música folk. Ese mismo año, participaron en el documental musical Big Easy Express de Emmett Malloy junto a Mumford & Sons y Edward Sharpe and the Magnetic Zeros. La película ganó un Grammy en 2013 a la mejor película musical. Ese año también fueron incluidos como miembros del Grand Ole Opry.