淮南市境位于淮河流域，最大的地表水为淮河。市境支流有东淝河、窑河、西淝河、架河、泥黑河等。湖泊有瓦埠湖、高塘湖、石涧湖、焦岗湖、花家湖、城北湖等。人工河有茨淮新河。此外，还有蔡城塘、泉山、老龙眼、乳山、丁山、许桥等小型水库以及采煤塌陷区积水而成的众多湖泊、湿地，最大的为樱桃园(谢二矿塌陷区，亦称淮西湖)。
淮南地处安徽省中北部，东与滁州市毗邻，东南与合肥市接壤，西南与六安市相连，西与阜阳市相接，北与亳州市、蚌埠市交界。最东端位于大通区孔店乡王祠村以东、高塘湖中心线上，最西端位于凤台县尚塘乡侯海孜以西与利辛县接壤处，最南端位于寿县三觉镇冯楼村槐树庄以南与六安市金安区接壤处，最北端位于凤台县与蒙城县、利辛县交汇的茨淮新河主航道中心线上。