Enfant de la balle (son père est directeur de théâtre, sa mère actrice), Fernand Gravey débute à sept ans sur les planches et paraît dans un premier film d'Alfred Machin. Pendant la Première Guerre mondiale, il grandit à Londres. En 1919, âgé d'à peine quatorze ans, il fait son apprentissage de comédien dans des tournées. En 1927, il choisit de se fixer à Paris. Trois ans plus tard, il joue dans un premier film, L'amour chante de Robert Florey.
Vedette des productions de la Paramount française, Fernand Gravey joue dans une série de films de René Guissard, dont Coiffeur pour dames (1931) grâce auquel il devient une vedette. En 1932, il confirme son talent dans A moi le jour, à toi la nuit de Ludwig Berger. Il joue aussi bien en français qu'en anglais. En 1933, il devient violoniste dans Bitter sweet du Britannique Herbert Wilcox. Hollywood l'appelle, et il est dirigé par Mervyn LeRoy dans Le Roi et la figurante (1937) et dans La Peur du scandale (1938). Ses interprétations empreintes d'une certaine désinvolture, d'une grâce juvénile et d'une touche d'humour lui apportent le succès. Après Toute la ville danse de Julien Duvivier (1938), il poursuit son ascension à Paris, perpétuant son image de jeune premier. Vagabond assassin, il aborde le registre dramatique dans Le Dernier Tournant (1939) de Pierre Chenal. Il forme avec Micheline Presle un couple fantaisiste et sentimental (Histoire de rire, 1941, et La Nuit fantastique, 1941, de Marcel L'Herbier). Après Le Paradis perdu (1939) et Le Capitaine Fracasse (1942) d'Abel Gance, un de ses meilleurs films, il tourne environ 30 films en 20 ans, dont La Ronde (1950) de Max Ophüls et La Promesse de l'aube (1969) de Jules Dassin.
Après Toute la ville danse où il est chanteur d'opérette, Fernand Gravey interprète une trentaine de pièces de théâtre, dont Les Vignes du seigneur, La Petite Hutte, Harvay, Le Coeur léger, Le Signe de Kikota. Il revient au théâtre dans les années 1950, lorsque sa carrière cinématographique s'essouffle.
On le voit aussi à la télévision, notamment dans l'opérette Princesse Czardas (1968).
Président de la Fédération des acteurs depuis 1958, Fernand Gravey est chevalier de la Légion d'honneur.
Courts métrages 1938 | Hollywood Goes to Town | Herman Hoffman |
| 1942 | Loi du 21 juin 1907 (La) | Sacha Guitry |
| 1958 | Piano, mon ami | Claude-Yvon Leduc |
Longs métrages| 1952 | Plus heureux des hommes (Le) | Yves Ciampi |
| 1952 | Plus heureux des hommes (Le) | Yves Ciampi |
| 1912 | Fille de Delft (La) | Alfred Machin |
| 1912 | Saïda a enlevé Manneken Piss | Alfred Machin |
| 1912 | Un épisode de Waterloo | Alfred Machin |
| 1913 | M. Beulmeester, garde civique | Alfred Machin |
| 1930 | Amour chante (L') | Robert Florey |
| 1930 | Chérie | Louis Mercanton |
| 1931 | Coiffeur pour dames | René Guissart |
| 1931 | Marions-nous | Louis Mercanton |
| 1931 | Tu seras duchesse | René Guissart |
| 1931 | Un homme en habit | Robert Bossis, René Guissart |
| 1932 | A moi le jour, à toi la nuit | Ludwig Berger, Claude Heymann |
| 1932 | Fils improvisé (Le) | René Guissart |
| 1932 | Passionnément | René Guissart, Louis Mercanton |
| 1932 | Une étoile disparaît | Robert Villers |
| 1933 | Bitter Sweet | Herbert Wilcox |
| 1933 | C'était un musicien | Friedrich Zelnik, Maurice Gleize |
| 1933 | Guerre des valses (La) | Raoul Ploquin, Ludwig Berger |
| 1933 | Père prématuré (Le) | René Guissart |
| 1934 | Antonia, romance hongroise | Max Neufeld, Jean Boyer |
| 1934 | Nuit de mai | Gustav Ucicky, Henri Chomette |
| 1934 | Queen's Affair | Herbert Wilcox |
| 1934 | Si j'étais le patron | Richard Pottier |
| 1934 | Variétés | Nicolas Farkas |
| 1935 | Fanfare d'amour | Richard Pottier |
| 1935 | Monsieur Sans-Gêne | Karl Anton |
| 1935 | Touche-à-tout | Jean Dréville |
| 1936 | Grand refrain (Le) | Yves Mirande |
| 1936 | King and the Chorus Girl (The) Le Roi et la figurante | Mervyn LeRoy |
| 1936 | Mister Flow | Robert Siodmak |
| 1936 | Sept hommes... une femme | Yves Mirande |
| 1937 | Fools for Scandal La Peur du scandale | Mervyn LeRoy, Bobby Connolly |
| 1937 | Mensonge de Nina Petrovna (Le) | Victor Tourjansky |
| 1938 | Great Waltz (The) Toute la ville danse | Julien Duvivier |
| 1939 | Dernier tournant (Le) | Pierre Chenal |
| 1939 | Paradis perdu | Abel Gance |
| 1941 | Histoire de rire | Marcel L'Herbier |
| 1941 | Nuit fantastique (La) | Marcel L'Herbier |
| 1942 | Capitaine Fracasse (Le) | Abel Gance |
| 1942 | Romance à trois | Roger Richebé |
| 1943 | Domino | Roger Richebé |
| 1943 | Rabouilleuse (La) | Fernand Rivers |
| 1944 | Paméla | Pierre de Herain |
| 1946 | Il suffit d'une fois | Andrée Feix |
| 1947 | Capitaine Blomet | Andrée Feix |
| 1948 | Du Guesclin | Bernard de Latour |
| 1950 | Mademoiselle Josette, ma femme | André Berthomieu |
| 1950 | Ronde (La) | Max Ophuls |
| 1950 | Traqué (Le) | Borys Lewin, Frank Tuttle |
| 1951 | Ma femme est formidable | André Hunebelle |
| 1952 | Mon mari est merveilleux | André Hunebelle |
| 1952 | Plus heureux des hommes (Le) | Yves Ciampi |
| 1953 | Età dell'amore (L') Age de l'amour | Lionello De Felice |
| 1953 | Si Versailles m'était conté | Sacha Guitry |
| 1955 | Treize à table | André Hunebelle |
| 1956 | Courte tête | Norbert Carbonnaux |
| 1956 | Mitsou | Jacqueline Audry |
| 1957 | École des cocottes (L') | Jacqueline Audry |
| 1957 | Garçonne (La) | Jacqueline Audry |
| 1957 | Temps des oeufs durs (Le) | Norbert Carbonnaux |
| 1958 | Toto a Parigi Parisien malgré lui | Camillo Mastrocinque |
| 1961 | Croulants se portent bien (Les) | Jean Boyer |
| 1961 | Petits matins = Mademoiselle stop (Les) | Jacqueline Audry |
| 1965 | Dama de Beyrut (La) [Aventure à Beyrouth] | Ladislao Vajda |
| 1965 | How to Steal a Million Comment voler un million de dollars | William Wyler |
| 1967 | Bataille de San Sebastian (La) | Henri Verneuil |
| 1968 | Madwoman of Chaillot (The) La Folle de Chaillot | Bryan Forbes |
| 1969 | Caprices de Marie (Les) | Philippe de Broca |
| 1969 | Promesse de l'aube (La) | Jules Dassin |
| 1970 | Explosion (L') | Marc Simenon |