Va ser un director d’orquestra nord-americana, de swing i rhythm-and-blues. Tot i no saber llegir ni escriure música i no tocar cap instrument, va aconseguir l’èxit amb les seves orquestres gràcies al talent per a l’espectacle i el gust musical. Per la seva banda van passar nombrosos músics que posteriorment es van tornar molt influents en els inicis del Rock and roll.

El 1931 va liderar una banda per a una gira teatral de la companyia cinematogràfica RKO i el 1932 va assumir el lideratge de l’orquestra de Doc Crawford a Harlem.

En 1933, va portar una banda a Europa, tocant en residències a Montecarlo i París.  Va tornar a Nova York per fer-se càrrec del lideratge de la Mills Blue Rhythm Band, que incloïa entre els seus músics a Henry “Red” Allen, Charlie Shavers, Harry “Sweets” Edison i JC Higginbotham, i que tenia una programació regular a The Cotton Club.

Dizzy Gillespie va passar per la seva banda. A mitjan dècada de 1940, la banda va anar deixant el jazz per acostar-se a l’estil Rhythm and Blues.

L’últim gran èxit de la banda va ser I’m Waiting Just for You, amb Allen com a vocalista, el 1951, que va aconseguir el número 2 a la llista de R&B i el número 19 a la llista de pop. Un any abans, la cançó de Millinder Silent George s’havia convertit en un èxit de l’anomenat Dirty blues.