Das Museum kann auf eine über hundertjährige Geschichte zurückblicken. 1909 aus der privaten Sammlung des Mülheimer Bürgers Robert Rheinen hervorgegangen, richtete sich das Museum bereits in den 1920er-Jahren stärker auf moderne Kunst auf moderne Kunst aus.

Besonders gefördert wurden die mit Mülheim verbundenen Künstler Otto Pankok, Arthur Kaufmann und der Bauhaus-Schüler Werner Gilles, von denen umfangreiche Werkgruppen zur Sammlung gehören. Zusammen mit Gemälden von Max Beckmann, Wassily Kandinsky, Paul Klee und Franz Marc, aber auch der Sammlung expressionistischer Kunst des Chemie-Nobelpreisträgers Karl Ziegler bilden sie heute den Kernbestand des Museums.

Zum besonderen Profil des Hauses trägt die umfangreiche Sammlung an Papierarbeiten und internationalen grafischen Serien von Künstlern wie Pablo Picasso, Max Ernst oder Marc Chagall bei, vertreten ist u.a. die größte Zille-Sammlung außerhalb Berlins.

In Sammlungspräsentationen werden Kunstrichtungen und Werke bedeutender Künstler des 20. Jahrhunderts vorgestellt. Das Spektrum reicht vom Expressionismus bis zur Pop Art, von Horst Antes bis zu Heinrich Zille. In Wechselausstellungen knüpft das Museum an Künstler und Themen aus der Sammlung an, widmet sich neuen Formen der Zeichnung und schlägt die Brücke zur Kunst der Gegenwart mit oft raumbezogenen Installationen.