Pianista, vocalista, compositor i director de banda va néixer a Muskogee, Oklahoma, i va rebre el sobrenom de Hootie.

Autodidacte, va començar a treballar com a músic professional l’any 1931, actuant per Tulsa, Oklahoma, i la veïna Arkansas. Es va traslladar a Kansas City, Missouri, el 1936, i va muntar la seva pròpia big band que comptava amb Charlie Parker (1937–42), Al Hibbler, Ben Webster, Paul Quinichette, Bernard Anderson, Gene Ramey, Jimmy Coe, Gus Johnson ( 1938–43), Harold “Doc” West, Earl Coleman, Walter Brown i Jimmy Witherspoon, entre d’altres. Els seus primers enregistraments van ser tots amb Charlie Parker, el primer com a Jay McShann Orchestra el 9 d’agost de 1940.

Dotat d’un profund blues, després de la Segona Guerra Mundial, McShann va començar a liderar grups reduïts treballant molt amb Jimmy Witherspoon.

Confessin’ the Blues i Ain’t Nobody’s Business són probablement els seus millors temes. El 1979, va aparèixer de manera destacada a The Last of the Blue Devils, una pel·lícula documental sobre el jazz de Kansas City.