El 1915 va iniciar el seu treball a les pel·lícules còmiques que produïa Pathé-Exchange. Contractat per Vitagraph va actuar en aquella empresa fins a 1925. En aquest temps, a més del seu treball com a actor, va dirigir diverses pel·lícules còmiques protagonitzades per Larry Semon. Desapareguda La Vitagraph va ser emprat per l'empresa de William Fox. Interpretà papers secundaris en pel·lícules del far-west. Tres anys més tard va ser contractat per Hal Roach, un dels més acreditats productors del gènere còmic. Anteriorment Hal Roach havia contractat també a un actor d'origen britànic, Stan Laurel, que va arribar als Estats Units en companyia de Charles Chaplin. Havent vist junts el grosset Oliver Hardy i l'eixut Stan Laurel, Hal Roach va tenir la idea de convertir-los en la parella que, amb un rendiment tan pròsper, es va fer cèlebre a la pantalla.

Potser no tan bon actor com Laurel, Hardy era un oponent magnífic, el qual, arribat el moment, també sabia convertir-se en el centre de l'escena. A partir de 1929 Stan i Oliver van ser els herois popularíssims de nombroses pel·lícules de curt i llarg metratge. La gràcia inicial de les figures tan oposades, els seus ingenus trucs de comicitat (no exempts, de vegades, de fins trets d'humor) i la infeliç innocència que representaven van ser en la seva època insubstituïbles a les pantalles. Amb el breu parèntesi, el 937, d'una separació durant la qual Hardy va ser la primera figura en una pel·lícula sense èxit Zenobia, la cèlebre parella va treballar amb fortuna fins a la fi de la segona guerra mundial, el 1945.

L'espectador la infantesa del qual coincidís amb l'apogeu d'Oliver i Stan, recordarà sempre de bon grat The Bohemian Girl (1936), Fra Diávolo (1933), Helpmates (1932), The Fixer Uppers (1935) i Bonnie Scotland. Malauradament, el seu sentit de l'humor ja havia envellit, i, a partir del 1945, no va ser possible ressuscitar les velles glòries. 

Un director francès va voler donar-los una última oportunitat el 1950, amb una mediocre pel·lícula que va representar el definitiu enfonsament per als cèlebres còmics.

L'últim any de la vida de Hardy va ser veritablement llastimós: patia paràlisi total i es trobava privat de la parla.