秦屬象郡地。
漢初屬南越國(guó)地，元鼎六年（前111）屬郁林郡雍雞縣地。
三國(guó)吳屬郁林郡臨塵縣地。
晉屬晉興郡地。
隋改屬郁林郡宣化縣地。
唐開元二年（714）置羈縻石西州，治今上石鎮(zhèn)。
宋皇祐五年（1053）置憑祥峒，屬邕州都督府左江道永平寨，此為憑祥有名之始。
嘉祐年間（1056-1063）石西羈縻州改為上石西羈縻州，并析置下石西羈縻州治今夏石南舊州，屬邕州。
元代憑祥峒遷至今屏山村舊州屯。
至元二十四年（1287）上石西、下石西2土州改屬思明路。
明洪武元年（1368）憑祥峒遷治今憑祥中學(xué)處。
永樂二年（1404）改為憑祥土縣，屬思明府。
成化十八年（1482）升為憑祥土州，直隸廣西等處承宣布政使司。
萬歷三十八年（1610）上石西土州屬太平府。
清順治十一年（1654）憑祥直隸州降改為憑祥土州，屬太平府。
清雍正十一年（1733）下石西土州改屬太平府。
光緒三十四年（1908）上石西土州并入憑祥土州。
宣統(tǒng)二年（1910）憑祥土州改流置憑祥廳。
1912年憑祥廳改為憑祥縣。
1928年下石西土州改流并入。
1930年屬龍州民團(tuán)區(qū)。
1934年屬龍州行政監(jiān)督區(qū)。
1940年屬第十二行政督察區(qū)。
1949年中華人民共和國(guó)成立后，仍稱憑祥縣，屬龍州專區(qū)。
1951年并入鎮(zhèn)南縣。
1952年屬寧明縣。
1955年以寧明縣第一區(qū)置縣級(jí)憑祥鎮(zhèn)，屬桂西僮族自治州。
1956年改縣級(jí)市。
1957年屬邕寧專區(qū)。
1958年12月，憑祥市與寧明、龍津兩縣撤銷，合并置睦南縣，治憑祥鎮(zhèn)。
1959年5月，睦南縣撤銷，復(fù)置寧明、龍津兩縣，今市域?qū)賹幟骺h，稱睦南公社，屬南寧專區(qū)。
1961年復(fù)置縣級(jí)憑祥市。
1966年龍州縣下凍公社平而大隊(duì)劃入。
1971年屬南寧地區(qū)。
1981年原寧明縣夏石公社劃入。
2002年改為廣西壯族自治區(qū)直轄市，由崇左市代管。