La jeunesse de Julien Carette est contrariée par une série d'échecs. Il passe de petits boulots en petits boulots (camelot, représentant, employé des chemins de fer). Il s'inscrit aux Beaux-Arts dans le but de devenir peintre, et se rend très vite compte qu'il ne fera pas carrière. Un ami l'oriente alors vers le théâtre. Il échoue au concours d'entrée au Conservatoire. Il va au Théâtre de l'Odéon et parvient à y trouver un emploi de figurant. Engagé ensuite au Vieux Colombier, il y fait ses véritables premières armes.
Après un premier rôle dans un film dont lui-même a oublié le titre (il campe l'assassin de l'archiduc François-Ferdinand), Julien Carette fait quelques apparitions dans des films mineurs. L'avènement du cinéma parlant révèle sa gouaille et son accent parisien. En 1931, il apparaît dans L'Amour à l'américaine, de Claude Heymann, et Attaque nocturne, de Marc Allégret. Mais c'est l'année suivante qu'il obtient son premier grand rôle, dans un film des frères Prévert : L'Affaire est dans le sac. C'est le début d'une longue galerie de personnages drôles et complètement achevés. Entre 1932 et 1937, il joue dans une trentaine de films. Il rencontre en 1937 Jean Renoir. Le réalisateur lui confie le rôle d'un titi parisien dans La Grande illusion (1937). Ses mimiques et son accent confèrent aux dialogues les plus banals un entrain, une bonne humeur, et une ironie qui lui assurent un contact immédiat avec le public. On le revoit dans d'autres films de Renoir : il campe un volontaire dans La Marseillaise (1938), Pécqueux, le chauffeur du mécanicien Lantier dans La Bête humaine, d'après Zola (1938), et un braconnier dans La Règle du jeu (1943). En 1943, Pierre Prévert lui confie le rôle principal de Adieu Léonard. Il y fait une composition -qualifiée de " chaplinesque "-de pauvre bougre qu'un maître chanteur veut transformer en assassin. A partir de 1942, il devient le comédien fétiche de Claude Autant-Lara. Dans Lettres d'amour (1942), il endosse le rôle d'un maître à danser trépidant et diabolique. Dans Occupe-toi d'Amélie (1949), Autant-Lara exploite ses capacités comiques. Dans L'Auberge rouge (1951), Carette est un inquiétant aubergiste. On le voit aussi dans Le Joueur (1958) et Vive Henri IV, vive l'amour (1961). Sa longue carrière est associée à d'autres grands réalisateurs français : Henri Decoin (Battement de coeur, 1939), Marcel Carné (La Marie du port, 1949), Yves Allégret (Une si jolie petite plage, 1948), Sacha Guitry (Si Paris nous était conté, 1955), Henri Verneuil (Paris Palace-Hôtel, 1956), Georges Lampin (Crime et châtiment, 1956), André Cayatte (Le Miroir à deux faces, 1958). La présence de l'acteur à l'écran a un tel relief qu'il sauve souvent de la médiocrité les personnages de second plan qu'on lui confie. En 1964, il tourne dans son dernier film : Les Aventures de Salavin, de Pierre Granier-Deferre. Ses membres déformés par l'arthrose l'empêchent de poursuivre sa carrière. Il prend sa retraite.
Parallèlement à sa carrière cinématographique, Carette continue de monter sur les planches. On le voit notamment dans Monsieur Pimpin, L'Ecole des athlètes, Dauphine, Le Greluchon délicat, Le Roi masqué, Liberté provisoire, et des opérettes : Passionnément et La Pouponnière.
Courts métrages 1931 | Attaque nocturne | Marc Allégret |
| 1931 | Collier (Le) | Marc Allégret |
| 1931 | Quatre jambes (Les) | Marc Allégret |
| 1932 | Affaire est dans le sac (L') | Pierre Prévert |
| 1932 | Seul | Jean Tarride |
| 1934 | Ces messieurs de la noce | Germain Fried |
| 1934 | Un petit trou pas cher | Pierre-Jean Ducis |
| 1945 | Enquête du 58 (L') | Jean Tedesco |
| 1949 | Vedettes en liberté | Jacques Guillon |
Longs métrages| 1931 | Amour à l'américaine (L') | Claude Heymann |
| 1932 | Baby | Carl Lamac, Pierre Billon |
| 1932 | Moi et l'Impératrice | Friedrich Hollaender, Paul Martin |
| 1932 | Passionnément | René Guissart, Louis Mercanton |
| 1932 | Pouponnière (La) | Jean Boyer |
| 1933 | Adieu les beaux jours | Johannes Meyer, André Beucler |
| 1933 | Georges et Georgette | Reinhold Schünzel, Roger Le Bon |
| 1933 | Gonzague ou l'accordeur | Jean Grémillon |
| 1933 | Je te confie ma femme | René Guissart |
| 1934 | Billet de mille (Le) | Marc Didier |
| 1934 | Ferdinand le noceur | René Sti |
| 1934 | Greluchon délicat (Le) | Jean Choux |
| 1934 | Mon coeur t'appelle | Carmine Gallone, Serge Véber |
| 1934 | Turandot, princesse de Chine | Gerhard Lamprecht, Serge Véber |
| 1935 | Clef des champs (La) | Pierre-Jean Ducis |
| 1935 | Dora Nelson | René Guissart |
| 1935 | Et moi, j'te dis qu'elle t'a fait de l'oeil | Jack Forrester |
| 1935 | Fanfare d'amour | Richard Pottier |
| 1935 | Gangster malgré lui | André Hugon |
| 1935 | Heureuse aventure (L') | Jean Georgesco |
| 1935 | Marraine de Charley (La) | Pierre Colombier |
| 1935 | Paris-Camargue | Jack Forrester |
| 1935 | Parlez-moi d'amour | René Guissart |
| 1935 | Soeurs Hortensias (Les) | René Guissart |
| 1935 | Une nuit de noces | Georges Monca, Maurice Kéroul |
| 1936 | 27, rue de la Paix | Richard Pottier |
| 1936 | Aventure à Paris | Marc Allégret |
| 1936 | Marinella | Pierre Caron |
| 1936 | Reine des resquilleuses (La) | Max Glass, Marco de Gastyne |
| 1937 | Fessée (La) | Pierre Caron |
| 1937 | Grande illusion (La) | Jean Renoir |
| 1937 | Gribouille | Marc Allégret |
| 1937 | Marseillaise (La) | Jean Renoir |
| 1937 | Rois du sport (Les) | Pierre Colombier |
| 1938 | Accroche-coeur (L') | Pierre Caron |
| 1938 | Bête humaine (La) | Jean Renoir |
| 1938 | Café de Paris | Yves Mirande, Georges Lacombe |
| 1938 | Derrière la façade | Georges Lacombe, Yves Mirande |
| 1938 | Entrée des artistes | Marc Allégret |
| 1938 | Gaietés de l'exposition (Les) | Ernest Hajos |
| 1938 | Je chante | Christian Stengel |
| 1938 | Lumières de Paris | Richard Pottier |
| 1938 | Monsieur de cinq heures (Le) | Pierre Caron |
| 1938 | Récif de corail (Le) | Maurice Gleize |
| 1938 | Route enchantée (La) | Pierre Caron |
| 1939 | Battement de coeur | Henri Decoin |
| 1939 | Famille Duraton (La) | Christian Stengel |
| 1939 | Monde tremblera = La Révolte des vivants (Le) | Richard Pottier |
| 1939 | Paradis des voleurs (Le) | L.C. Marsoudet |
| 1939 | Règle du jeu (La) | Jean Renoir |
| 1939 | Sixième étage | Maurice Cloche |
| 1939 | Tempête | Dominique Bernard-Deschamps |
| 1940 | Parade en sept nuits | Marc Allégret |
| 1940 | Soyez les bienvenus | Jacques de Baroncelli |
| 1940 | Vingt-quatre heures de perm' | Maurice Cloche |
| 1941 | Croisières sidérales | André Zwobada |
| 1941 | Fromont jeune et Risler aîné | Léon Mathot |
| 1942 | A la Belle frégate | Albert Valentin |
| 1942 | Bonne étoile (La) | Jean Boyer |
| 1942 | Fou d'amour | Paul Mesnier |
| 1942 | Lettres d'amour | Claude Autant-Lara |
| 1942 | Monsieur des Lourdines | Pierre de Herain |
| 1942 | Une étoile au soleil | André Zwobada |
| 1943 | Adieu Léonard | Pierre Prévert |
| 1943 | Bonsoir mesdames, bonsoir messieurs | Roland Tual |
| 1943 | Service de nuit | Jean Faurez |
| 1944 | Merle blanc (Le) | Jacques Houssin |
| 1945 | Impasse | Pierre Dard |
| 1945 | Messieurs Ludovic | Jean-Paul Le Chanois |
| 1945 | Sylvie et le fantôme | Claude Autant-Lara |
| 1946 | Amour autour de la maison (L') | Pierre de Herain |
| 1946 | Château de la dernière chance (Le) | Jean-Paul Paulin |
| 1946 | Histoire de chanter | Gilles Grangier |
| 1946 | Portes de la nuit (Les) | Marcel Carné |
| 1947 | Mannequin assassiné (Le) | Pierre de Herain |
| 1948 | Une si jolie petite plage | Yves Allégret |
| 1949 | Amédée | Gilles Grangier |
| 1949 | Branquignol | Robert Dhéry |
| 1949 | E piu facile che un camello Pour l'amour du ciel | Luigi Zampa |
| 1949 | Marie du port (La) | Marcel Carné |
| 1949 | Occupe-toi d'Amélie | Claude Autant-Lara |
| 1949 | Premières armes | René Wheeler |
| 1949 | Ronde de nuit | François Campaux |
| 1950 | Sans laisser d'adresse | Jean-Paul Le Chanois |
| 1951 | Agence matrimoniale | Jean-Paul Le Chanois |
| 1951 | Auberge rouge (L') | Claude Autant-Lara |
| 1951 | Drôle de noce | Léo Joannon |
| 1951 | Signori in carrozza ! Rome-Paris-Rome | Luigi Zampa |
| 1952 | Au diable la vertu | Jean Laviron |
| 1952 | Fête à Henriette (La) | Julien Duvivier |
| 1953 | Amour d'une femme (L') | Jean Grémillon |
| 1953 | Bon Dieu sans confession (Le) | Claude Autant-Lara |
| 1953 | Uomini, che mascalzoni ! (Gli) | Glauco Pellegrini |
| 1954 | Casa ricordi La Maison du souvenir | Carmine Gallone |
| 1954 | Pas de coup dur pour Johnny | Emile Roussel |
| 1954 | Sur le banc | Robert Vernay |
| 1955 | Ces sacrées vacances | Robert Vernay |
| 1955 | Coup dur chez les mous | Jean Loubignac |
| 1955 | Môme Pigalle (La) | Alfred Rode |
| 1955 | Rencontre à Paris | Georges Lampin |
| 1955 | Si Paris nous était conté | Sacha Guitry |
| 1956 | Crime et châtiment | Georges Lampin |
| 1956 | Je reviendrai à Kandara | Victor Vicas |
| 1956 | Pardonnez nos offenses | Robert Hossein |
| 1956 | Paris Palace Hôtel | Henri Verneuil |
| 1957 | Belle et le tzigane (La) | Jean Dréville, Márton Keleti |
| 1957 | Temps des oeufs durs (Le) | Norbert Carbonnaux |
| 1957 | Trois font la paire (Les) | Clément Duhour, Sacha Guitry |
| 1958 | Archimède le clochard | Gilles Grangier |
| 1958 | Joueur (Le) | Claude Autant-Lara |
| 1958 | Miroir à deux faces (Le) | André Cayatte |
| 1959 | Jument verte (La) | Claude Autant-Lara |
| 1959 | Millième fenêtre (La) | Robert Ménégoz |
| 1959 | Pantalaskas | Paul Paviot |
| 1960 | Vive Henri IV, vive l'amour | Claude Autant-Lara |
| 1962 | Mon oncle du Texas | Robert Guez |
| 1963 | Confession de minuit = Les Aventures de Salavin (La) | Pierre Granier-Deferre |
| 1963 | Foire aux cancres (La) | Louis Daquin |
| 1964 | Pieds nickelés (Les) | Jean-Claude Chambon |