És conegut especialment per la seva música apassionadament afrocèntrica de finals dels seixanta, amb un fort compromís amb la denúncia de les injustícies sofertes per la raça negra.

A finals dels anys cinquanta va tocar en un grup de rhythm and blues amb el trompetista, Lee Morgan i el saxo, Kenny Rogers. Va estudiar dret i art dramàtic, on es diploma. El 1960, va conèixer el pianista, Cecil Taylor entrant al seu grup amb qui va gravar entre 1960 i 1961.

El 1962 va tocar al costat de Bill Dixon, amb qui gravaria el seu primer disc al seu nom Archie Shepp-Bill Dixon Quartet (Savoy, 1962). I això li va servir d’experiència per formar el New York Contemporary Five, quintet on estaven a més de Archie Shepp, Don Cherry, Don Moore, J.C. Moses i John Tchicai. En aquell període comença a compondre i escriu temes relacionats amb la situació política i social de la raça.

En aquell període destaquen els seus cinc discos gravats el 1963. El 1964, després d’una breu gira per Europa, Archie Shepp, va reconstruir el seu quintet. Després va col·laborar amb John Coltrane, al naixement de l’àlbum Ascensió (Impulse!, 1965), juntament amb Freddie Hubbard, Marion Brown, Pharoah Sanders, McCoy Tyner, Elvin Jones i Jimmy Garrison.

Les bandes que ha liderat han inclòs músics com Charlie Haden, Ron Carter, Lars Gullin, Tete Montoliu, Niels-Henning Orsted Pedersen, Cedar Walton, Bernard Purdie, Wilton Felder, Hank Mobley, Harold Mabern, Cornell Dupree, Bobby Hutcherson i Grachan Moncur III.

La seva tècnica integra diversos elements heretats dels Mestres del saxo tenor des de Webster al seu mentor Coltrane, però segons la seva pròpia personalitat. El seu treball amb els estàndards i les seves composicions és sempre original. En aquest sentit, se’l pot comparar a Sonny Rollins. Va ser un dels principals creadors i impulsors del free jazz. Dotat de profunds coneixements musicals i compromès políticament amb el moviment Black Power, Archie Shepp va emprar la seva música com a altaveu d’aquest moviment polític.

Un imprescindible.