Va ser un dels primers músics de jazz que es va convertir a l’Islam i va canviar el seu nom l’any 1947.

Va tocar amb Monk, Blakey i és especialment significativa la seva col.laboració amb Dizzy en començar a tocar amb el baríton.

El 1959, va fer una gira per Europa amb Quincy Jones,  després d’haver-se desil·lusionat amb la política racial als Estats Units.Finalment es va establir a Escandinàvia, primer a Estocolm, Suècia i a partir de 1964 a Copenhaguen.

Shihab va ser un dels primers flautistas del hard bop. El subgènere del jazz que fusiona elements del swing i el blues, i es caracteritza per exuberants grooves de dansa i tambors melòdics.