És un dels escassos músics de jazz que han triat el trombó de pistons com a instrument a la seva carrera. Nascut a Kansas City, va començar els seus estudis musicals amb el clarinet al Conservatori de la seva ciutat natal i després els va ampliar al piano i al trombó.

La seva primera experiència professional va ser com a músic de bigband amb les formacions de Ray McKinley, Louis Prima, Tex Benecke i va acabar amb la banda de Woody Herman. El 1952, va decidir utilitzar per sempre el trombó de pistons i es va unir al grup del saxofonista, Stan Getz, on va començar a ser conegut. Un any més tard va ocupar el lloc del trompetista, Chet Baker al famós quartet de Gerry Mulligan i va romandre amb ell durant quatre anys.

Va decidir treballar de manera independent amb el seu propi nom i va gravar alguns discos, entre ells, un de famós amb el pianista, Bill Evans. El 1963 s’incorpora a un projecte que donaria sucosos moments a la història del jazz: la famosa Big Band organitzada perGerry Mulligan coneguda com a Concert Jazz Band. Va gravar diversos discos amb la Verve,  amb Mulligan, va tenir l’oportunitat de viatjar a Europa i que el públic del Vell Continent el conegués. Va gravar amb el quintet que el 1964 va formar, Clark Terry i després amb la magnífica dupla formada pel trompetista, Thad Jones i la Mel Lewis orchestra.

Un element notable de l’estil compositiu de Bob Brookmeyer és el seu ús de les tècniques d’escriptura clàssica contemporània en les seves obres per a grans bandes i conjunts de jazz. A principis de la dècada de 1980, Brookmeyer va ser mentor pel compositor Earle Brown, amb qui va explorar en profunditat la música clàssica del segle XX. Les obres de Brookmeyer des d’aleshores han estat influenciades per compositors com Witold Lutosławski , Igor Stravinsky, Claude Debussy, György Ligeti i Béla Bartók.