Von 1845 bis 1851 war er als Lehrer am Gymnasium seiner Heimatstadt tätig und ging anschließend nach Wernigerode. In Wernigerode wirkte Förstemann als Lehrer am Lyzeum und war gleichzeitig als Archivar und Bibliothekar im Gebäude der Orangerie tätig (siehe Fürst zu Stolberg-Wernigerodesche Bibliothek). 1865 übernahm er die Leitung der Königlichen Bibliothek in Dresden. 1887 wurde er zum Geheimen Hofrat ernannt und übernahm die Leitung der Privatbibliothek von König Albert sowie die der Prinzlichen Sekundogeniturbibliothek in Dresden.