Joseph Anthony Mantegna nasce a Chicago, in una famiglia italo-americana. Nel 1969 debutta nella commedia musicale Hair. Frequenta la Morton East High School a Cicero ed entra a far parte della Scuola d'Arte Drammatica Goodman School of Drama. Comincia a lavorare a Broadway nel 1978 e nel 1984 vince il Tony Award per la sua interpretazione nel musical Glengarry Glen Ross di David Mamet. Il suo debutto cinematografico è nel 1977. Dopo varie interpretazioni, nel 1988 vince la Coppa Volpi per la migliore interpretazione maschile al Festival del Cinema di Venezia per il film Things Change. In seguito recita nel film Airheads, in Baby Birba e nel 1990 è ne Il Padrino: Parte III di Francis Ford Coppola. Ha impersonato anche il Pontormo nell'omonimo film italiano del 2003. Lo ricordiamo inoltre in Alice e Celebrity di Woody Allen, Insoliti Criminali, Edmond, Bugsy, Nine Lives. Per la televisione è famoso in quanto presta la voce a Tony Ciccione, personaggio del cartoon I Simpson. Dall'Agosto 2007 sostituisce Mandy Patinkin nel serial Criminal Minds, interpretando l'agente David Rossi.