1911 zeichnete Franz Marc in sein Skizzenbuch Nr. XXIV eine etwa postkartengroße Bleistiftzeichnung mit dem Titel „Junges Pferd in Berglandschaft“, die bereits die Bildkomposition des späteren Gemäldes zeigt. Noch in demselben Jahr übertrug er die Skizze detailgetreu in ein großes Ölgemälde.
Die blaue Farbe steht in der Farbtheorie Marcs und des Blauen Reiters für das geistige Prinzip. Nach dem Kunsthistoriker und Marc-Spezialisten Klaus Lankheit dringt Marc mit diesem Bild endgültig von der natürlichen „Erscheinungsfarbe“, wie er sie beispielsweise noch in seinem 1910 entstandenen Gemälde Weidende Pferde I und auch noch in dem bereits ein in blau gemaltes Pferd zeigenden Gemälde Pferde auf der Weide aus demselben Jahr verwendet hatte, zur „Wesensfarbe“ vor.
Das Bild blieb zunächst unverstanden und wurde belächelt oder sogar bespuckt. Es war Bestandteil der Privatsammlung von Bernhard Koehler, der Franz Marc finanziell unterstützte und als Gegenleistung dafür Bilder des Malers erhielt. Er vererbte seine Sammlung 1927 an seinen ebenfalls Bernhard heißenden Sohn. Nach dessen Tod gelangte das Bild im Rahmen der Bernhard-Koehler-Stiftung 1965 durch Schenkung an die Städtische Galerie im Lenbachhaus und wurde dort ausgestellt. Dadurch erlangte es erst eine größere Bekanntheit. Mittlerweile gehört es als beliebtes Poster- und Postkartenmotiv zu den am häufigsten reproduzierten Gemälden der jüngeren Kunstgeschichte.