Considerada una de les vocalistes de jazz més influents del segle XX, va ser el seu fraseig darrere del ritme i les seves interpretacions iròniques de lletres de cançons les que la van fer memorable. McRae es va inspirar en Billie Holiday, però va establir la seva pròpia veu distintiva. Va gravar més de 60 àlbums, gaudint d’una rica carrera musical, actuant i gravant als Estats Units, Europa i el Japó.

McRae tocava el piano al Minton’s Playhouse, el club de jazz més famós de Harlem, cantava com a corista i va treballar com a secretària. Va ser a Minton’s on va conèixer el trompetista Dizzy Gillespie, el baixista Oscar Pettiford i el bateria Kenny Clarke. Va tenir el seu primer treball important com a pianista amb la big band de Benny Carter (1944), va treballar amb Count Basie (1944) i va fer el primer enregistrament com a pianista amb la Mercer Ellington Band (1946-1947).

El 1954, va ser votada com a millor vocalista nova per la revista Down Beat. Es va casar amb el baixista Ike Isaacs a finals de la dècada de 1950.

Mai va actuar sense cantar almenys una cançó associada a Lady Day, i va gravar un àlbum el 1983 en honor seu titulat For Lady Day, que va ser llançat el 1995.