Simien és un crioll de vuitena generació d’una de les primeres famílies criolles documentades a la zona de Mallet de la parròquia de St. Landry. Criat en el si d’una família musical es va iniciar en el piano a casa, el cor de l’Església catòlica i en els programes de bandes de l’escola on tocava la trompeta.

Autodidàcta amb l’acordió, va formar la seva primera banda Terrance Simien & The Mallet Playboys, i va començar a tocar dins el circuit regional i el circuit de l’església. A principis de la dècada de 1980, Simien era un dels dos únics artistes zydeco emergents (Sam Brothers era l’altre) que liderava una banda i interpretava la seva música d’arrel zydeco autòctona.

Ha compartit estudi i escenari amb Paul Simon, Dr. John, The Meters, Marcia Ball, Dave Matthews, Stevie Wonder, Robert Palmer i Los Lobos.