Eubanks nasce e cresce a Philadelphia, dove inizia a studiare il violino all'età di 7 anni con buoni risultati, diventando poi altrettanto bravo a suonare il pianoforte e la tromba. Racconta di essersi innamorato della chitarra ad un memorabile concerto di James Brown al quale aveva assistito a 12 anni e che poi, quando annunciò ai genitori che gli sarebbe piaciuto aggiungere la chitarra alla sua strumentazione, essi furono tutt'altro che contenti al pensiero di dover pagare altre lezioni. Ciò nonostante, acquistò una chitarra e cominciò a imparare a suonarla da autodidatta. I suoi riferimenti erano Wes Montgomery, John McLaughlin e Jimi Hendrix. Ha suonato con Art Blakey, Roy Haynes, Slide Hampton, e Sam Rivers prima di cominciare a condurre il proprio gruppo nel 1983. Come il fratello Robin Eubanks, trombonista jazz, ha partecipato a registrazioni in studio con Dave Holland. Dirige la Tonight Show Band dal 1995, nel quale è stato apprezzato anche per la sua spontanea comicità. Oltre alla carriera televisiva ha pubblicato numerosi album da solista, o al fianco di altri musicisti jazz di rilievo. Nel 2005, Eubanks riceve una laurea d'onore dal Berklee College of Music, di cui è ex allievo. È anche un membro della confraternita Kappa Alpha Psi.