Va aprendre a tocar la percussió sent jove, i a catorze anys tocava la bateria en un cafè de Chicago. Cap a 1919 Lyman tocava regularment a Califòrnia amb altres dos futurs líders de big band, Henry Halstead i Gus Arnheim.

Va obrir el Sunset, un popular night club en el qual eren clients habituals estrelles del cinema de la talla de Mary Pickford, Norma Talmadge, Charlie Chaplin, Buster Keaton i Harold Lloyd.

Cap a 1929 va fer una exitosa gira per Europa.

Abe Lyman i la seva orquestra van aparèixer en nombrosos films en els inicis del cinema sonor, entre ells Hold Everything (1930), Paramount on Parade (1930), Good News (1930) i Madam Satan (1930). El 1931 Abe Lyman i la seva orquestra van gravar diverses bandes sonores per a la sèrie d’animació Merrie Melodies.

A cinquanta anysva deixar la música i es va dedicar al negoci de direcció de restaurants.