Joe comenzó su carrera sobre los escenarios de Nueva York, y finalmente consiguió el ansiado papel del tartamudo Billy Bibbit en la gira de la producción de Alguien voló sobre el nido del cuco. Pulió su arte con años de trabajo sobre las tablas y en televisión, hasta lograr el papel de Angelo Maggio -el personaje creado por otro nativo de Hoboken, Frank Sinatra- en la miniserie con la que la NBC adaptó la obra de James Jones De aquí a la eternidad (1979).