Dotat per la música, aquest espectacular multiinstrumentista va adoptar com a instrument el saxo baix.

Va ser un nen prodigi del piano, i ja feia concerts de Chopin al Waldorf Astoria de Nova York a 4 anys. Als 14, organitza la seva primera banda de jazz professional. A partir de 1924 toca regularment amb els Califòrnia Ramblers, un grup molt popular en l’època i en els quals, entre 1922 i 1934, tocaran molts músics rellevants: Red Nichols, Tommy Dorsey, Glenn Miller, Bobby Davis … Gravant en aquest període un gran nombre de temes. Amb ells, per primera vegada, Rollini adopta el saxo baix, un instrument particularment difícil d’execució, que, no obstant això, Rollini domina en molt poc temps. Es dedicarà gairebé exclusivament a aquest instrument fins començament dels anys 1930.

Alguns dels seus millors treballs apareixen amb Bix Beiderbecke. També va enregistrar i treballar amb Roger Wolfe Kahn, Frank Trumbauer i Red Nichols.

Entre 1927 i 1929, roman a Londres, amb la banda del pianista Fred Elizalde. Toca amb Bix Beiderbecke, Eddie Lang, Joe Venuti, Frank Signorelli i Frank Trumbauer. El 1930 torna a Nova York i s’incorpora a l’orquestra de Bert Lown (1903 – 1962), encara que un any després torna novament als Califòrnia Ramblers. Després de la dissolució d’aquests, Rollini funda el seu propi club de jazz, i reprèn el vibràfon, gravant nombrosos discos amb grups reduïts, per Decca, RCA i altres segells.

Com vibrafonista, Rollini té un toc delicat, amb un swing lleuger i ple d’idees, encara que no té la força d’un Lionel Hampton. El saxo baix, instrument difícil que altres músics contemporanis, com Coleman Hawkins, utilitzaven només com a acompanyament rítmic, va ser convertit per Rollini en un veritable solista, membre de dret de la secció melòdica de fustes.