Fondé en 1821, le musée fut longtemps installé dans le Collège de l'Arc et dans l'ancienne Chapelle des Jésuites , avant que la nécessité d'un lieu dédié et plus adapté à la richesse des collections, constituées tout au long du 19e siècle, ne s'impose.
En 1980, le musée déménage dans un bâtiment ancien, le Pavillon des officiers, édifice d’architecture comtoise du 18e siècle, rénové et réhabilité par l'architecte Louis Miquel.
L'inauguration en 1980 est suivie trois ans après du développement d'une politique d'exposition et d'acquisition d'art contemporain qui ouvre ce musée des Beaux-Arts sur le présent et initie un dialogue entre les époques qui n'a jamais cessé depuis.
Au premier étage, un parcours thématique du 16e au 19e siècle rappelle la prospérité de Dole, capitale de la Comté jusqu'en 1678 : art bourguignon et comtois de la Renaissance au 18e siècle, peinture française des 17e/18e siècles (Vouet, Allegrain, Coypel, van der Meulen), écoles italienne (Assereto, Procaccini, Ulivelli) et nordique (Le Maître de Saint-Gilles, Van Boucle, Gysbrechts, Wouters), auxquels s'ajoute une collection 19e siècle faisant la part belle à l’école de Barbizon et aux maîtres comtois (Courbet, Pointelin, Brun, Adler).
En échos, réponses ou ruptures, des œuvres de la collection d'art contemporain viennent casser le fil de l'histoire et jouer avec la chronologie, pour défendre une approche résolument non conformiste de l'histoire de l'art. La collection contemporaine traverse de fait l'ensemble du bâtiment, et occupe régulièrement tout le 3e étage.
Elle s'est constituée depuis 1983 autour de la Figuration critique des années 1960 (Monory, Télémaque, Erró, Fromanger, etc.) et du Nouveau Réalisme (César, Arman, Spoerri, etc.). Elle continue à se développer aujourd'hui, entre art contemporain historique et jeune création, autour de deux axes majeurs : image et récit(s) d'une part, art et société d'autre part.
Aujourd’hui, le musée poursuit ce dialogue fécond en tâchant de le réinventer sans cesse, s'attachant à fonder son identité sur cette ouverture, sur cette idée du musée comme un lieu qui fait pont entre le passé et le présent, mais aussi entre les arts, entre les domaines de la création, entre les hommes.