Graupa wurde erstmalig im Jahre 1350 unter dem Namen »Crup« erwähnt.

Anno 1579 kaufte Christoph von Loß, der seit 1569 als Lehnsherr von Pillnitz fungierte, die Siedlungskerne »Großgraupe«, »Kleingraupe« und »Neugraupe« und damit auch das Rittergut. So wie Pillnitz ging später auch Graupa in den Besitz des Kurfürsten über. Das heutige Schloss, Vorläufer des Jagdschlosses Raupenberg, stammt aus dem Jahre 1800. 

Mitte des 19. Jahrhunderts zählte das Dorf »Großgraupe« 34 Häuser und ca. 120 Einwohner. Es umfasste im wesentlichen den Dorfplatz mit den umstehenden Bauernhäusern, das Vorwerk und die Schäferei. Der größte Teil der Einwohner hatte keinen eigenen Hof, sondern arbeitete als Schiffer auf der Elbe, in den Liebethaler Steinbrüchen oder beim Brücken- und Bahnbau in Copitz.

Ein entsetzliches Feuer wütete am Abend des 10. August 1875 in Graupa. Bei dem »Großen Brand von Großgraupe« brannte ein Teil des Dorfplatzes nieder. Dabei wurden eine Scheune am Jagdschloss und der Meierei sowie sechs Wirtschaften vollständig zerstört. Das Jagdschloss selbst und das heutige »Lohengrinhaus« mit dem »Holderhof« blieben unversehrt.

Am 29.10.1898 wurde durch den Gemeinderat der Beschluss über den Bau einer Straße von »Kleingraupa« bis zu den Forsthäusern gefasst. Beauftragt wurde der Unternehmer Herr Grünberg aus Dürröhrsdorf. Am 07.06.1901 erhielt diese Straße den Namen »Borsbergstrasse«.

Der Gemeinderat stimmte am 28.06.1920 dem Bau der Kraftwagenlinie Pillnitz - Pirna zu. Der entsprechende Vertrag hierzu wurde am 08.01.1921 unterzeichnet. Die Gemeinde »Neugraupa« beteiligte sich mit 10.000 Mark.

Am 12.10.1923 schlossen sich die bis zu diesem Zeitpunkt selbstständigen Gemeinden »Neugraupa« und »Vorderjessen« zu der neuen Gesamtgemeinde »Neugraupa« zusammen.

Bereits im Jahre 1868 bestanden Überlegungen, die Gemeinden »Kleingraupe« und »Neugraupe« zusammenzuschließen. Mit Beschluss vom 15.05.1968 wurde dieses Vorhaben jedoch abgelehnt. Erst im Jahre 1933 erfolgte der Zusammenschluss der bis zu diesem Zeitpunkt selbständigen Gemeinden »Großgraupa«, »Kleingraupa« und der Gesamtgemeinde »Neugraupa / Vorderjessen«.

Im Jahre 1972 wurde das bis dahin selbständige Dorf »Bonnewitz« nach Graupa eingemeindet.

Am 27. Oktober 1998 beschloss der Sächsische Landtag, die Gemeinde Graupa mit Wirkung ab dem 01. Januar 1999 als Ortsteil in die Große Kreisstadt Pirna einzugliedern.