1908年6月，徐州府站始建，由英国建筑师小古龙设计，中国人张伯、陈正庭承建，站址在子房山西侧。1910年1月竣工通车，是英国风格的砖木结构平房，徐州人因它在东城门外，习称东站。那时的候车室用竹竿苇席搭成，摆着几条长凳，站台只有200米，两股道，列车来临时工人敲钢轨示警，当地居民争着围观这个冒浓烟的黑色怪物。

1915年，比利时承建的陇海铁路接入徐州站，和津浦铁路独立运营，后来试行直通运转。1927年徐州府站改名徐州站，1936年又改铜山站。1938年徐州会战时车站被日军炸毁，日占期间整修了站台，增建了6股道和地下通道，增加了机务段机车数量。抗战胜利后复名徐州站，1948年淮海战役中再次被毁，解放后紧急抢修，1949年5月全线通车。

徐州地处江苏、安徽、山东、河南四省交界，自古是兵家必争之地，有南国门户、北国锁钥之称，黄兴评价它是胜负转战之地。这种地理位置让徐州站成为京沪、陇海两大铁路干线的交汇点，沟通南北东西，在中国交通史上有徐州通则全国通的说法。

1996年，风帆造型的老火车站竣工，寓意一路顺风。2008年3月18日，徐州站从济南铁路局划归上海铁路局，这是徐州以工业、能源重镇身份步入长三角经济区的标志之一。现在的徐州站主楼高45米，建筑面积3.3万平方米，高架候车室1万平方米，可同时容纳1万人候车，每天有181辆列车直达全国各大城市，年客运量1902.47万人。它是全国第二大铁路枢纽、第八大火车站，旁边的和平大桥是全国跨铁路股数最多的大桥，徐州北还是全国最高等级编组站之一。

虽然现在高速铁路兴起，徐州站客运量受影响，但它依然是苏北唯一的铁路特等站，承载着淮海经济区的交通重任，见证了中国铁路从时速25公里到300公里的嬗变，像老朋友一样迎送着往来的人们。