Músic en transició, inicialment toca en grups de soul jazz, el 1971, Ulmer va tocar amb els Jazz Messengers d’Art Blakey, Joe Henderson , Paul Bley, Rashied Ali i Larry Young.

A principis de la dècada de 1970, Ulmer es va unir a Ornette Coleman; va ser el primer guitarrista elèctric a gravar i girar extensament amb Coleman. Considera Coleman com una influència important, i al mateix temps la dependència de Coleman de la guitarra elèctrica en els seus enregistraments orientats a la fusió té un deute amb Ulmer.

Diuen els crítics que en el so d’Ulmer s’albiren els sons de Skip James i Albert Ayler. L’estil d’Ulmer és, en paraules del crític Phillipe Bodoin, exacerbat i violent, inspirat tant en el jazz com en el rock i el blues, aprofitant totes les possibilitats tècniques i electròniques disponibles avui dia.