砀山古代叫下邑。
砀山县，隶属于安徽省宿州市，古称下邑。
位于安徽省最北端，地处皖、苏、鲁、豫四省七县交界处，东南连本省萧县，由南到西部分别与河南省永城市、夏邑县、虞城县毗邻西北部与山东省单县相连，东北部与江苏省丰县接壤。总面积1193平方千米。
春秋时期，陈国株林。
战国时属宋国，，改砀邑。后楚来宋改属楚。
秦始皇二十二年（前225年），灭魏国，置砀郡(治砀县，今永城县城芒山西麓)，为三十六郡之一，在县境设下邑县。
汉王元年(前206年)四月，今县境仍设下邑县(治今砀山县城东毛李庄)，属项羽西楚国(都彭城，今徐州市)砀郡(仍治故砀城)。
汉高祖五年(前202年)正月，砀郡改属彭越的梁国（治今砀山县城东毛李庄）。六年春，砀郡归汉.十一年三月丙寅，砀郡改属刘恢梁国(都睢阳，今商丘南).高后七年(前181年)二月，改属吕产的吕国.。八年八月，改属梁国。后九月，砀郡归汉。文帝前元二年(前178年)二月乙卯，砀郡改属刘楫梁国。十二年，复为刘武梁国。元封五年(前106年)四月，梁国改属豫州刺史部之。
新莽时（9年），改梁国为陈定郡，治所砀县改为"节砀县"，改下邑县为"下治县"，仍属豫州刺史部。
东汉章帝建初四年（79年），复砀郡(仍治砀故城)，下邑县改名夏邑县(仍治下邑故城)，仍属豫州(治谯，今亳州市区)。建初四年(79年)，梁国迁都下邑故城，夏邑县属之.。三国（魏）革梁国，砀县属徐州。
三国延康元年(220年)十月，曹魏代汉，今县境仍设夏邑县(治今砀山县东毛李庄)，属豫州(初治谯，后多次移治)梁郡(治夏邑，今砀山县东1公里毛李庄).青龙四年(236年)，夏邑县(仍治砀山县东毛李庄)兼梁国国都。
晋武帝泰始元年（265年），复梁国，砀县并入下邑县。
南北朝宋时，复置砀县，南齐（479年）废。
北魏孝昌元年（525年）下邑县移治今河南夏邑二年（526年），置砀郡、砀县。砀郡治年在原下邑城（今毛李庄处），砀县治所鲁城（其址查无考）。北齐（555年）废砀郡、砀县，置安阳县。
隋开皇十八年（598年），改安阳县为砀山县，隋大业六年（610年）割彭城、瞧阳二郡之地置永城县，芒砀山以北为砀山县辖区。
唐，砀山县属瞧阳郡。光化二年（899年）朱全忠以砀山、单父、虞城、曹州这域表置辉州。后唐砀山县属单州。
宋，属单州。
金兴定元年（1217年），砀山县改属归德府（今河南省商丘市）。兴定五年升永城县为永州，辖下邑、砀山、郏三县，芒砀山一带又属砀山县辖 ，宋理宗绍定年间（1228—1233年）砀山县为洪水荡没，迁治年至保安镇。
元宪宗七年（1257年），复置县，还旧地属东平路。元至元二年（1265年），降永州为永城县，芒砀山一带再属永城
