Su primera película, Permanent Vacation (1981), rodada en 16 mm y con bajo presupuesto, es una historia sobre un joven marginado en Manhattan. En 1982 dirigió el cortometrajeThe New World (El nuevo mundo), que en 1984 dio lugar al largometrajeExtraños en el Paraíso con la que ganó la Camera d’Or en Cannes. Este relato de las aventuras y desventuras de dos amigos y una chica húngara, ambientado en un paisaje típico americano y rodada en blanco y negro, atrajo la atención de la crítica y Jarmusch pasó a ser considerado un nuevo valor del séptimo arte. En 1986 dirigió Bajo el peso de la ley, relato de tres criminales que escapan de la cárcel y se esconden en las zonas pantanosas de Louisiana. Ambas películas fueron alabadas por la crítica europea como evidencia de la existencia de una nueva tradición minimalista de estética experimental; pero la obra de Jarmusch cautiva principalmente por su retrato agudo y emotivo de la figura del perdedor al margen de la sociedad. En sus dos siguientes películas: Mystery Train (El tren misterioso, 1989) y Night on Earth (Noche en la Tierra (1991), un conjunto de cinco relatos que transcurren en Estados Unidos y Europa con un taxi como pretexto, abandona el formato en blanco y negro pero continúa con su obsesión por los personajes marginados que sufren o se rebelan contra la sociedad.
Además de las influencias literarias, cabe destacar las influencias musicales para Jarmusch. Músicos como Tom Waits (del cual es un reconocido amigo), Joe Strummer, Iggy Pop, John Lurie y ScreaminJay Hawkings aparecen en sus películas, y también su cuidada elección con las canciones que forman parte de las bandas sonoras de sus films.
