岳陽歷史悠久。早在20萬年前,就已出現人類活動。距今9000年前,先民們就在這里繁衍生息,用石制器具,拓現遠古文明。夏、商時為“三苗”之地。春秋屬楚,為麋、羅等附庸國地。戰國時,為楚之黔中郡地。秦時,東屬長沙郡羅縣,西屬南郡、黔中郡。漢高祖元年(前206),東屬長沙國下雋縣、羅縣,西屬南郡華容縣、武陵郡孱陵縣。東漢建安十五年(210),孫權分長沙郡北的下雋、羅縣建漢昌郡,郡治設今平江縣金鋪觀。晉武帝太康元年(280),分下雋縣本部建巴陵縣。南朝宋元嘉十六年(439)置巴陵郡。隋開皇九年(589)廢巴陵郡為巴州,十一年(591)改為岳州。元為岳州路。明為岳州府。民國2年廢府,后設湖南第一行政督察區,并改巴陵縣為岳陽縣。1949年7月5~25日,境內各縣相繼解放,現轄區東部屬長沙專區,后改屬湘潭專區;西部華容縣屬常德專區。1960年1月以岳陽縣城關鎮建立岳陽市。1962年10月撤銷復為城關鎮。1964年9月,設岳陽專區,轄岳陽、臨湘、華容、平江、湘陰5縣。
1966年2月析湘陰縣為湘陰、汨羅縣。1975年12月恢復岳陽市,實行縣、市分治;1981年10月撤銷岳陽縣,行政區劃并入岳陽市。1983年7月,岳陽市升為省轄市,實行地、市分設。1986年1月撤銷岳陽地區,所轄縣并入岳陽市,實行市管縣體制。1992年,岳陽被列為長江沿岸對外開放城市;1994年,列為國家歷史文化名城。1996年4月,撤銷岳陽市南區、郊區,設立岳陽樓區、君山區;北區更名為云溪區。2000年,撤黃蓋湖農場建鎮,歸臨湘市管轄,撤君山農場、錢糧湖農場建鎮,歸君山區管轄;同年12月,撤屈原農場,建屈原管理區。