秦朝,秦始皇派兵攻取南越,在岭南设置南海、桂林、象郡,今开平地(以下简称开平)隶属南海郡番禺县。汉武帝元封五年(前106),天下分为13州,开平隶属交州合浦郡临允县。三国吴黄武五年(226),从交州分出南海、苍梧、郁林、高凉4郡设立广州,开平分属广州苍梧郡临允县、南海郡平夷县。唐贞观元年(627)设10道。开元二十一年(733)又分为15道,道下设州,开平分属岭南道新州新兴县,冈州新会、义宁县。五代(南汉),开平分属新州新兴县,兴王府新会、义宁县。宋太宗至道三年(997),设15道,开平分属广南东路新新州兴县、广州新会县。元朝,开平分属江西等处行中书省新州新兴县、广州路新会县。明洪武九年(1376),改行中书省为布政司,开平分属广东布政司肇庆府新兴县、恩平县,广州府新会县。南明永历三年/清顺治六年(1649),开平立县,隶属肇庆府。民国初期,开平县仍按清制隶属肇庆府。
中华人民共和国成立后1949年10月,隶属粤中专区。1952年5月,划入粤西行政区。1956年1月,撤销粤西行政区,开平县划归佛山专区。1958年12月,改属江门专区。1961年2月,属肇庆专区。1963年9月,再次划归佛山专区(1968年1月改专区为地区)。1983年5月,改属江门市。1993年1月5日,撤销开平县,设立开平市。1999年6月21日,将开平市人民政府驻地由三埠街道长沙沿江东路135号迁至长沙街道长沙光华路1号。