Michael O'Keefe asistió a la Academia Estadounidense de Artes Dramáticas y a la Universidad de Nueva York e hizo su debut como actor en un comercial de televisión de Colgate de 1970. Durante la década de los ochenta, O’Keefe tuvo una carrera productiva, recibiendo críticas favorables por interpretaciones como Danny Noonan en Los locos del golf (1980) y como Darryl Palmer en la película de Neil Simon La mujer del bateador (1985). Durante esta época, O’Keefe incluso fue nominado al Oscar al Mejor Actor de Reparto por su papel de Ben, el hijo mayor de un aviador marino en The Great Santini (1979), protagonizada por Robert Duvall. Los siguientes años continuó con proyectos de televisión como en la sitcom Roseanne o el drama Homeland, además de tener participaciones destacadas en películas como Asesino oculto (2001) y Michael Clayton (2007). En 2021, forma parte del elenco de La apariencia de las cosas, un thriller protagonizado por Amanda Seyfried y James Norton para Netflix.