臨武古屬楚地，戰(zhàn)國時(shí)期設(shè)臨武邑。
漢高祖五年（前202），置臨武縣。
新莽始建國元年（9），改名大武。
東漢建武元年（25），復(fù)稱臨武。
隋開皇九年（589），南平并入臨武。
五代后晉天福四年（939），臨武并入桂陽監(jiān)，南宋紹興十一年（1141），復(fù)置臨武縣。
明崇禎十二年（1639），劃臨武及桂陽各一部分，新設(shè)嘉禾縣。
1949年，臨武解放，屬郴縣專署。
1952年11月，撤郴縣專署，設(shè)湘南行政公署，臨武屬湘南行署。
1954年7月，湘南行署撤銷，臨武復(fù)歸郴縣專署管轄。
1961年7月，臨武縣恢復(fù)建制，隸屬郴州行署。
1994年12月17日，設(shè)立郴州市，臨武隸屬關(guān)系不變。