罗山境内地势西南高，东北低。从南部的王坟顶（海拔841米）、西南部的灵山（海拔827米）两高峰向东北层次下降，形成弯月形的南部山地。中南部为丘陵。丘陵以北国山前坡为洪积物形成的肺状黄土垄岗。与黄土垄岗相衔接的北部、东部、西部和中部，是分别由淮河、竹竿河、狮河和小潢河切割冲积而成的鸡爪形的沿河平原。全县土地构成比大致为五山一水四分田。罗山是中华罗姓发源地。