Joseph Vincent Russo nació el 8 de julio de 1971 en Cleveland, Ohio, EE. UU.
Asistió a la Escuela Secundaria Benedictine. Joe se graduó de la Universidad de Iowa y se especializó en inglés y escritura. Fue estudiante de posgrado en Case Western Reserve University cuando comenzó a dirigir, escribir y producir su primer largometraje con su hermano Anthony, Pieces. Ellos financiaron la película con préstamos estudiantiles y tarjetas de crédito. Steven Soderbergh se acercó al dúo y se ofreció a producir su próxima película. Este proyecto fue la comedia sobre el crimen Welcome to Collinwood, protagonizada por William H. Macy, Sam Rockwell y George Clooney.
El ejecutivo de FX Kevin Reilly contrató a los Russo para dirigir el piloto de la serie Lucky. Ron Howard se volvió un fanático del piloto y esto ayudo a contratar a los hermanos para dirigir el piloto de Arrested Development. Los hermanos ganaron un Emmy por su trabajo en el episodio.
En 2006, los hermanos Russo volvieron al cine, dirigiendo la comedia You, Me and Dupree, con Owen Wilson. La película recaudó $ 130 millones en todo el mundo. Para la temporada televisiva 2007-08, los Russo se unieron al equipo de la serie de ABC Carpoolers como productores ejecutivos y directores, labores que repitieron en las primeras temporadas de Community de NBC y en la serie de ABC Happy Endings.
En 2013, los hermanos fueron contratados por Marvel Studios para realizar Capitán América: El soldado del invierno. El estudio quedó tan impresionado con el resultado que decidió darles a realizar las siguientes secuelas de las franquicias del Capitán América y de Vengadores.
En mayo de 2014, se anunció que escribirían conjuntamente y dirigirían The Gray Man. Los hermanos anunciaron que están financiando a la compañía de producción conjunta de Los Ángeles y Beijing llamada Anthem & Song, que produce la película del superhéroe chino The Hero's Awakening.