Conegut per la seva melosa i avellutada veu, aquest cantant ja de petit va cantar en grups de gospel i, des de l’adolescència, va tocar en diferents circuits de blues. La seva influència més gran com a harmònicista va ser Sonny Boy Williamson, amb qui va treballar abans de passar a treballar per Howlin’ Wolf el 1949. Al voltant de 1950, va començar a actuar amb una coalició d’intèrprets a Memphis coneguda com els Beale Streeters , que incloïa Bobby “Blue” Bland i BB King.

El 1951, Parker va formar la seva pròpia banda, The Blue Flames, amb el guitarrista Pat Hare. El 1952, Parker va ser descobert per l’investigador de talents Ike Turner. I aquí va començar realment la seva carrera.

El 1955, Parker va fer una gira amb Bobby Bland i Johnny Ace, i també es va unir a Duke Records. Parker i Bland van encapçalar l’èxit de Blues Consolidated Revue, que actuava regularment al circuit de blues del sud.

Al Green és un fervent admirador de Parker i la seva versió de Tomorrow Never Knows s’utilitza regularment com a introducció als espectacles en directe de The Chemical Brothers.