徐州，自秦朝起设彭城县。西汉设彭城郡，三国时始称徐州。明代隶属南直隶，为直隶州。清朝雍正年间升为徐州府，民国初府废，一直隶属于江苏省。然而在新中国初期，徐州大部分却划归山东、安徽两省。

徐州目前为5区、3县、2县级市的行政区划。然而徐州府时代徐州分为“上四县”和“下四县”，“上四县”即西部的丰县、沛县、萧县和砀山县。“下四县”即东部的铜山、邳县、睢宁和宿迁。

解放战争期间到新中国成立初期，徐州要比大部分江苏解放的早，因此在区划上，徐州一度脱离江苏。

1949年5月至6月初,随着江苏解放,江苏划分为苏北、苏南两个省级行署区。

而丰县与沛县和徐州市区在1949 年—1952 年 12 月仍隶属山东省，萧县与砀山县则划给皖北行署（安徽）。

1953年，江苏恢复省制，中央下令将现属山东、安徽省原为江苏旧辖之地区,均划回江苏省属，徐州八县回归江苏。

但在1955年，出于统一洪泽湖治理的目的，江苏省将萧县、砀山与原属安徽省泗洪、盱眙互换，萧县和砀山划归安徽，在1970 年宿迁划归淮阴，徐州八县再度被分割。