Cantant de jazz estatunidenc, conegut per la seva rica veu de baríton i les seves gravacions de balades. Va cantar i gravar amb les big bands d’Earl Hines i Dizzy Gillespie i amb Erroll Garner. I és especialment recordat per la seva col·laboració el 1963 amb el saxofonista John Coltrane, John Coltrane i Johnny Hartman, un àlbum històric tant per a ell com per a Coltrane.

A mitjans dels anys seixanta, el gust popular s’abraçava al rock and roll, i l’estil de Hartman tenia molt menys atractiu comercial. Com que els anys setanta van ser temps difícils per als cantants que treballaven a partir del cançoner americà, Hartman va començar a tocar en bars de còctels a la ciutat de Nova York i Chicago. Va fer un especial de televisió a Austràlia i va gravar diversos àlbums al Japó, inclòs un homenatge a Coltrane després de la mort del saxofonista el 1967.

A principis dels anys vuitanta, Hartman va fer diverses actuacions en festivals de jazz i per a la televisió i la ràdio abans de sucumbir a un càncer de pulmó a seixanta anys.