Mit der Gründung der Bundeswehr im Jahr 1955 wurde das Bundesarchiv zuständig für die Überlieferung des Bundesministeriums der Verteidigung und der Bundeswehr. Am 1. August 1955 folgte daher die Einrichtung der Abteilung Militärarchiv (MA) in Koblenz.
Zuvor hatte es im „Amt Blank“, dem Vorläufer des späteren Bundesministeriums für Verteidigung, noch Ambitionen gegeben, ein eigenständiges „Wehrmachtarchiv“ zu gründen. Dies war allerdings wegen der befürchteten Verselbstständigung des militärischen Archivwesens auf den Widerstand vieler Entscheidungsträger in Politik und Militär getroffen.
Im Juli 1954 vereinbarten das Bundesministerium des Innern und das „Amt Blank“ deshalb einen Kompromiss: Neben der Zuständigkeit des Bundesarchivs für militärisches Schriftgut und der Einrichtung eines Militärarchivs im Bundesarchiv sollte es eine Dokumentenzentrale im Geschäftsbereich des künftigen Wehrressorts geben. Diese nahm das von den westlichen Alliierten zurückgegebene, im Krieg und danach beschlagnahmte deutsche militärische Schriftgut auf.
Seit 1967 befindet sich die Abteilung Militärarchiv (MA) des Bundesarchivs in Freiburg im Breisgau und übernahm dort 1968 nicht nur die Aufgabe, das gesamte militärische Archivgut zu sammeln, zu bearbeiten und zu betreuen, sondern auch Zuständigkeit und Unterlagen der Dokumentenzentrale des Militärgeschichtlichen Forschungsamtes (MGFA) der Bundeswehr.
