自秦置郴縣始,郴州建置歷朝更迭,曾設置郡、府、軍、州等。中華民國時期,先后設立第八行政督查區和第三行政督查區。中華人民共和國成立后,設立郴縣專區、郴州專區。1967年改專區為地區。1983年5月,耒陽縣劃歸衡陽市管轄。1984年12月,資興縣改為資興市,郴縣高碼鄉劃歸資興市管轄。1989年,郴州地區轄2市9縣,5個街道辦事處、40個鎮、203個鄉(其中6個民族鄉),2940個村、164個居民委員會。
1994年12月17日,經國務院批準撤銷郴州地區,設立地級郴州市。同時,撤銷原郴州市(縣級)和郴縣,設立北湖區和蘇仙區。北湖區轄原郴州市的人民路、北湖、下湄橋3個街道辦事處和郴江、市郊、安和3個鄉,原郴縣華塘、魯塘2個鎮和同和、保和、小溪、南溪、芙蓉、大塘、月山市、永春、江口9個鄉。蘇仙區轄原郴州市蘇仙嶺、南塔2個街道辦事處和許家洞鎮,原郴縣棲風渡、白露塘、橋口、良田、坳上5個鎮和五里牌、馬頭嶺、塘溪、大奎上、廖家灣、崗腳、鄧家塘、太坪、荷葉坪、廖王坪10個鄉。