Im Rahmen des geheimen Wiederaufbaus der Luftwaffe wurde am 1. April 1934 eine erste Jagdgruppe unter der Tarnbezeichnung "Reklamestaffel Mitteldeutschland, Deutscher Luftsportverband e.V. (Döberitz)" aufgestellt. Dieser Name wurde bald geändert in "Fliegergruppe Döberitz". Ausgestattet mit 12 Jagdflugzeugen Arado Ar 65 mit zivilen Kennzeichen, wurde die Gruppe von Major Robert Ritter von Greim kommandiert, einem Fliegeras des Ersten Weltkriegs. Neben der Ausbildung von Jagdfliegern als primärem Zweck der Gruppe wurden ihr bald zwei weitere Aufgaben übertragen: Vorbereitungen zur Aufstellung einer weiteren Jagdgruppe sowie Training in Sturzangriffen zum Aufbau einer Stukagruppe.

Am 14. März 1935, zwei Wochen nach der offiziellen Aufstellung der Luftwaffe, verlieh Adolf Hitler persönlich der Gruppe den Beinamen "Richthofen". Jetzt gehörten auch Repräsentationsaufgaben zu ihren Aktivitäten. Dem In- und Ausland sollte vorgegaukelt werden, es sei eine schlagkräftige Luftwaffe entstanden. Neben demonstrativen Flügen über Berlin wurden auch immer wieder ausländische Militärs, Staats- und sonstige Gäste nach Döberitz gelotst. Darunter 1937 auch Charles Lindbergh.
 
Im Sommer 1935 rüstete die Gruppe auf die Heinkel He 51 um, nun unter dem Kommando von Major Kurt von Doering - ebenfalls ein erfahrener WK1-Flieger (und Staffelführer unter Manfred von Richthofen).
 
Die erste Bewährungsprobe für die Gruppe und die mittlerweile aus ihr entstandene "Fliegergruppe Damm" kam im März 1936, als sie die Besetzung des Rheinlandes deckten. Konstante Präsenz in der Luft sollte französische und britische Kräfte von Gegenmaßnahmen abschrecken.

Am 1. April 1936 wurden die Fliegergruppen Döberitz und Damm zum Jagdgeschwader "Richthofen" zusammengefasst. Kommodore wurde Major Raithel, der vorher die Fliegergruppe Damm befehligt hatte. Kommandeur des neuen Jagdgeschwaders "Horst Wessel" wurde von Doering, das noch im März aus Personal der Fliegergruppe Damm (zunächst als Fliegergruppe Dortmund) gebildet worden war. Auch nach Bernburg und Werl wurden Staffeln abgestellt als Keimzellen für dortige neue Fliegergruppen.
 
Am 1. Juni 1936 wurde ein Nummernsystem für die Geschwader eingeführt. Das JG "Richthofen" erhielt die Nummer 132 - das zeitlich erste ("1") Jagdgeschwader ("3") im Bereich des Luftkreiskommandos II ("2"). Die vorherigen Fliegergruppen Döberitz und Damm wurden zur I. bzw. II. Gruppe des Geschwaders. Nach diesen "Zellteilungen" der ersten Jahreshälfte wurde das Geschwader in der zweiten Hälfte wieder auf volle Mannschaftsstärke gebracht.
 
Im Frühjahr 1937 wurden aus dem Geschwader zwei weitere Gruppen aufgestellt, die I./JG 131 in Jesau und die II./JG 334. Im Sommer 1937 rüstete das JG 132 als erster Verband der Luftwaffe auf die neuen Messerschmitt Bf 109B um. Gleichzeitig wurde das Geschwaderwappen mit dem roten "R" auf silbernem Grund eingeführt. Im Herbst 1937 begann die II./JG 132 Versuche mit Arado Ar 68 als Nachtjägern. Diese führten letztlich zur Bildung einer dedizierten Nachtjagd-Staffel 10.(N)/JG 132.
 
Im Rahmen des "Anschlusses" Österreichs im März 1938 verlegte die 1./JG 132 kurzzeitig nach München, um von dort aus Hitlers Ju 52 nach Wien zu eskortieren. Während seiner Rede und der anschließenden Parade patrouillierten die Bf 109 über der Stadt.

Vor dem Zugriff auf die Sudeten wurde das Geschwader am 1. Juli 1938 mit einer III. Gruppe, ebenfalls in Jüterbog-Damm, verstärkt, welche aus zuvor unabhängigen Staffeln gebildet wurde. Ausgerüstet war sie mit Ar 68. Eine IV. Gruppe entstand in Werneuchen. Diese verlegte später nach Leipzig und, nach der Annexion des Sudetenlands, weiter nach Karlsbad und Mährisch-Trübau. Eine Staffel erhielt Heinkel He 112B, die für den Export nach Japan produziert und von der Luftwaffe requiriert wurden.
 
Mit Wirkung vom 11. November 1938 wurden die sechs Luftkreiskommandos durch drei größere Luftwaffengruppenkommandos ersetzt. Aus dem JG 132 wurde das JG 131. Gleichzeitig wurde eine Unterscheidung zwischen leichten und schweren Jagdgruppen (den späteren Zerstörergruppen) eingeführt. Letztere erhielten eine "4" als mittlere Ziffer. Die (alten) II. und III./JG 132 wurden nun zur I. und II./JG 141, während die IV. jetzt als I. Gruppe des JG 331 fungierte. Das Jagdgeschwader "Richthofen" bestand somit nur noch aus dem Geschwaderstab und der I. Gruppe.
 
Im folgenden Winter 1938/39 rüstete das Geschwader auf die neue Bf 109C um. Im März 1939 verlegte es kurzfristig nach Karlsbad, um an der endgültigen Annexion Böhmens und Mährens teilzunehmen.
 
Eine erneute Reorganisation der Luftwaffe am 1. Mai 1939 bescherte den Geschwadern eine vereinfachte, aufsteigende Nummerierung. Aus dem JG 131 wurde nun das JG 2 - und diesen Namen durfte es bis 1945 behalten. Im weiteren Verlauf des Jahres 1939 rüstete man erneut um, und zwar auf die Bf 109E (Stab und I. Gruppe) sowie Bf 109D (für die wieder existierende 10.(N)/JG 2).
 
Damit waren aber auch die friedlichen Zeiten vorbei.