En 1984, il joue un second rôle dans The Bounty de Roger Donaldson aux côtés de Mel Gibson et d'Anthony Hopkins. Mais c'est le personnage d'homosexuel marginal amoureux d'un immigré pakistanais dans My Beautiful Laundrette (1985) de Stephen Frears, et son rôle de jeune anglais de bonne famille dans Chambre avec vue (1985) de James Ivory qui le révèlent au grand public.

En 1987, il endosse le rôle principal de L'Insoutenable Légèreté de l'être de Philip Kaufman, au côté de Juliette Binoche et Lena Olin.

En 1990, il obtient l'Oscar du meilleur acteur pour son interprétation du poète irlandais infirme Christy Brown dans My Left Foot de Jim Sheridan, réalisateur qu'il retrouve dans Au nom du père (1993) et The Boxer (1998).

Il collabore également deux fois pour des films d'époque avec Martin Scorsese : en 1993 pour Le Temps de l'innocence où il interprète un aristocrate distingué et mondain dans le New York de 1870, et en 2002 pour Gangs of New York où il campe un inquiétant Bill le Boucher dans le New York de 1863 (à savoir celui des guerres entre communautés immigrés et mafieuses, sur fond d'émeutes anti-conscription Draft Riots), face à Leonardo DiCaprio.

Mais ses deux plus grands rôles au cinéma restent ceux de Nathanael Poe dans l'adaptation cinématographique du chef d'œuvre de Fenimore Cooper par Michael Mann, Le Dernier des Mohicans (1992), où il interprète un européen recueilli dès la naissance par un Mohican, et celui de Daniel Plainview, prospecteur de terres meurtrier et violent au temps du Far West dans There Will Be Blood de Paul Thomas Anderson qui lui vaut un nouvel Oscar en 2008.

Pour My Left Foot, en 1989, il joue un peintre atteint d'une paralysie spasmodique. Pour se mettre dans la peau de son personnage, il passe des mois en fauteuil roulant et est nourri à la petite cuillère.

Pour Au nom du père en 1993, l'acteur passe plusieurs semaines en cellule et demande à subir une séance d'interrogatoire musclée pendant trois jours, dans le but d'interpréter Gerry Conlon, Irlandais accusé à tort d'un attentat.

Pour The Boxer en 1997, qui narre la vie de l'irlandais Barry McGuigan, champion poids plume dans les années 1980, il s'entraîne pendant plusieurs mois avec l'ancien boxeur.

Pour Le Dernier des Mohicans, il s'isole plusieurs mois dans la forêt et apprend à dépecer des animaux, à construire des canoës, à se battre avec un tomahawk, et à charger un pistolet à poudre en pleine course.

Pour Le Temps de l'innocence en 1993, qui se déroule dans les années 1870, incarnant le rôle de Newland Archer, il s'oblige à porter des mois une chemise à jabot et s'isole de longues semaines dans un hôtel dont l'architecture ressemble aux endroits où se déroule le film. Puis il disparaît littéralement, jusqu'à ce que la production se rende compte qu'il était enregistré sous le nom de Newland Archer.

Pour There Will Be Blood, en 2007, il utilise ses propres outils.