南昌新四軍軍部舊址原為北洋軍閥張勛的公館(建于1923年)。1938年1月6日,國發革命軍陸軍新編第四軍軍部從漢口遷駐于此,開始正式辦公。相繼設在這里的還有中共中央東南分局和新四軍駐贛辦事處。軍長葉挺、副軍長兼東南分局書記項英、東南分局副書記兼江西省委書記曾山、新四軍駐贛辦事處主任黃道等曾在此居住、辦公。
軍部在南昌期間,除了組織改編南方八省紅軍、游擊隊為新四軍,指揮各部隊開赴皖南集結處,還廣泛開展抗日民族統一戰線和抗日救亡活動,恢復和發展中共黨的基層組織,輸送大批青年奔赴抗日前線,使沉寂的南昌變成了南方的延安。4月4日,軍部離開南昌開赴抗日前線。新四軍駐贛辦事處從東書院街移駐張勛公館,與留在南昌的中共中央東南分局堅持工作,直到1939年3月26日南昌淪陷前夕。