Fils d’un marchand d’étoffe de Luxeuil-les-Bains, Jules Adler quitte la Franche-Comté en 1882. Il s’installe alors à Paris avec sa famille. Il étudie dans un premier temps à l’École des arts décoratifs, où il est l’élève de William Bouguereau, de Tony Robert-Fleury et enfin aux Beaux-Arts avec Pascal Dagnan-Bouveret. Parallèlement, dès 1883, il suit les cours de l’Académie Julian. Après un premier échec, il réussit son entrée en 1884 à l’École des beaux-arts de Paris.
Massier à l’Académie Julian, il crée le bal masqué de l’académie qui deviendra plus tard le Bal des Quat’z’Arts.
En 1888, il débute au Salon avec sa toile Misère. Adler est plusieurs fois médaillé au Salon et participe à de nombreuses expositions. Son thème de prédilection est le monde ouvrier, ce qui lui vaut d’être surnommé « le peintre des humbles ». Il obtient une médaille d’or avec son tableau Joies populaires ; l’une de ses toiles les plus célèbres est La Grève-Le Creusot, exposée au Salon de 1900, qui remporte un grand succès. Le 7 août 1899 s’ouvre le second procès du Capitaine Dreyfus, à Rennes, Adler prend parti dans l’Affaire et sa maison deviendra un centre de dreyfusards. En 1903, il est membre fondateur du Salon d’automne au Petit Palais.
De 1914 à 1918, il installe sur la place Pigalle une cantine d’aide aux artistes qui servira plusieurs milliers de repas et offrira des vêtements aux artistes. En 1914, il est chargé de mission artistique à Verdun et rapporte des dessins, croquis et photographies. Il est nommé professeur aux Beaux-Arts de Paris en 1928, où il a pour élève son neveu Jean Adler.
Arrêté en mars 1944 sur dénonciation d’un pharmacien pour s’être promené dans le square des Batignolles alors interdit aux Juifs, il est interné à l’hospice Picpus, annexe du camp de Drancy. Il échappe à la déportation.
Il meurt en 1952 dans une relative pauvreté à la maison de retraite pour artistes à Nogent-sur-Marne. Il est inhumé au cimetière Saint-Vincent, en 4e division, dans le quartier de Montmartre.