Nacido en una familia con una fuerte inclinación musical, Gary Willis comenzó a tocar el bajo eléctrico a la edad de trece años, cuando, oyendo a su padre, se dio cuenta de que era la mano izquierda de los pianistas la que establecía el groove y parecía conducir la música. Cuando, ya en su segundo año de carrera universitaria, se vio en la obligación de tener que vender uno de sus instrumentos para poder devolver la beca que le permitiría seguir cursando sus estudios, decidió deshacerse de su guitarra Les Paul, manteniendo su P-bass y confirmando su vocación de bajista de manera definitiva.

En 1984 el músico funda, junto al guitarrista Scott Henderson la banda Tribal Tech, uno de los grupos más célebres de la Fusion Music post Weather Report, con el que permanecería 16 años y que lo establecería definitivamente como uno de los jóvenes bajistas más admirados de su generación.1

Paralelamente a su carrera con Tribal Tech, el bajista ha mantenido una importante carrera independiente que se ha desarrollado a tres niveles diferentes: Cultivando, por un lado, su carrera personal con la grabación de tres álbumes en solitario; desarrollado, por otro lado, una significativa serie de colaboraciones que lo ha llevado a trabajar con nombres de la talla de Allan Holdsworth, Wayne Shorter o Dennis Chambers; y desarrollando, por último, una importante actividad docente, que Willis ha materializado con la publicación de cuatro libros didácticos: Fingerboard Harmony for Bass, "The Gary Willis Collection, Ultimate Ear Training for Guitar and Bass y 101 Bass Tips.

Decepcionado con el escaso apoyo de las casas discográficas al uso,​ Willis decide tomarse una pequeña temporada de semiretiro musical, instalándose en Santa Fe, Nuevo México, donde trabaja temporalmente como diseñador de páginas web e incluso como detective privado.​ Sin embargo, su traslado a Barcelona, donde conoce a su esposa y donde reside desde hace varios años, significó para Willis la reanudación de sus actividades musicales: Allí, junto al saxofonista Llibert Fortuny y el baterista Kirk Covington, forma en 2006 el proyecto de improvisación colectiva Slaughterhouse 3, graba su álbum Actual Fiction haciéndose cargo de prácticamente todos los instrumentos y programaciones y continá sus ejercicio como docente.