春秋、戰(zhàn)國(guó)屬楚。
秦末置縣，屬衡山郡。
漢置鄳縣，屬江夏郡。
三國(guó)、晉同漢制。
宋孝建三年（456）分鄳縣地增置寶城縣，同屬義陽(yáng)郡。
南齊改寶城縣為保城縣，與鄳縣均屬北義陽(yáng)郡。
梁武帝(512)合鄳縣、保城縣置汝南郡。
北魏分置保城縣、鄳縣、東隨縣，保城縣，鄳縣屬齊安郡，東隨縣屬宋安郡。
北齊合3縣置高安縣，屬齊安郡。
隋開皇三年（583）高安縣并入鐘山縣。
九年（589）析鐘山縣置禮山縣，屬義陽(yáng)郡。
十六年（596）又析鐘山縣置羅山縣，屬義陽(yáng)郡。
大業(yè)末年（618）禮山縣廢。
唐武德四年（621）于縣境置南羅州，領(lǐng)羅山縣。
八年（625）南羅州廢，羅山縣屬申州。
五代同唐制。
宋開寶九年（976）羅山縣廢。
雍熙三年（986）復(fù)置羅山縣，屬信陽(yáng)軍。
元至元二十年（1283）徙信陽(yáng)州治于羅山縣城，縣治遷往西南，稱羅山新縣，屬汝寧府信陽(yáng)州。
明洪武元年（1368）縣治復(fù)舊，仍稱羅山縣，屬信陽(yáng)州。
七年（1374）改屬汝寧府。
成化十年（1475）復(fù)屬信陽(yáng)州。
清屬汝寧府。
1913年廢府、州，羅山縣屬豫南道。
1914年屬汝陽(yáng)道。
1927年廢道，直屬河南省。
1928年屬第七（信陽(yáng)）行政區(qū)。
1932年屬河南省第九行政督察區(qū)。
1949年屬潢川專區(qū)。
1952年屬信陽(yáng)專區(qū)。
1969年屬信陽(yáng)地區(qū)。
1998年信陽(yáng)地區(qū)改為信陽(yáng)市，屬之。