Entre 1946 y 1949, Roy Scheider boxeó como aficionado en Nueva Jersey. Luego sirvió tres años en la Fuerza Aérea de los Estados Unidos como primer teniente en operaciones aéreas desde 1955 hasta 1958. Fue hasta 1964 que hizo su primer papel en el cine en la película de terror The Curse of the Living Corpse. En 1971 apareció en Contacto en Francia, dirigida por William Friedkin, en la que interpretó una versión ficticia del detective de la ciudad de Nueva York, Sonny Grosso, que le valió una nominación al Oscar al Mejor actor secundario. Logró el estatus de estrella de culto al encontrar, luchar y destruir un gran tiburón blanco de casi ocho metros de largo (apodado "Bruce") en el mega hit de Steven Spielbergn Tiburón (1975), para luego electrocutar a un tiburón aún más grande en Tiburón 2 (1978). Buscando un cambio de personajes, asumió el papel del coreógrafo mujeriego y drogadicto Joe Gideon, el personaje principal de la representación semi-autobiográfica del director Bob Fosse en el brillante All that jazz (1979). Fue otro gran éxito para Scheider y le valió su segunda y última nominación al Oscar.