台湾铁路始建于清朝光绪年间。它是由台湾巡抚刘铭传筹办。这是当时中国第一条载客与自行出资的铁路，也被称为刘铭传铁路。然而，台湾博物馆铁道部公园曾在展区介绍，日据时代的铁道部长长谷川贤介是“台湾铁路之父”，引发了很多争议。

据史料记载，1887年5月20日，刘铭传首先成立了“台湾铁路商务总局”，并聘请德国贝克尔和英国沃森为工程师开始施工。路线分为基隆-台北线和台北-新竹线。它于1887年至1893年建成并分段通车。台湾铁路基隆至新竹全线通车。历时七年，全长107公里。
刘铭传铁路的“前世”实际上是1876年英国商人从上海修建的吴淞铁路。这条线路是一条从吴淞码头到上海的窄轨铁路，全长14.5公里。这是中国最早运营的铁路。然而，火车撞死人后，让当地村民们很不满，认为铁路会破坏龙穴毁风水。清廷担心这可能会引发英国商人和村民之间的冲突，从而引发内乱，于是用28.5万两银子将其赎回，并于第二年拆除。

1887年，刘铭传任台湾总督时，曾要求清政府修建台湾铁路，但清政府的国库空虚，资金不足。后来，从吴淞铁路上拆下的设备作为铁路材料运到台湾。刘铭传原本希望铁路能到达台南。从新竹南部到崎顶修筑路提，新竹还修建了一条铁路支线，称为“九港支线”。然而，刘铭传的继任者邵友光廉没有他那么有才华，铁路只能到达新竹。
刘铭传铁路建设之初，基隆港至台北段首开工。基隆末端的狮球岭隧道工程始于1888年春，1890年8月竣工。它长235米，花了30个月才钻穿。这是台湾和中国大陆的第一条铁路隧道，也是清朝唯一的铁路隧道。1888年7月18日，台北（大道城）至溪口（嵩山）通车，基隆至台北于1891年10月通车，台北至新竹于1893年通车。
清政府在1895年的中日战争中战败，台湾割让给日本。日本殖民政府认为刘铭传的铁路质量很差，铁路向北经过台北桥，然后经过三重、新庄和该段的山区，到达桃园的龟山，那里有一个很大的坡度，效率和安全受到威胁。此外，刘铭传修建的台北木桥经常被洪水冲毁，因此铁路从艋舺（万华）改为通过板桥和莺歌到桃园，但和日本殖民政府规划的桃园火车站靠近今天的桃园火车站。因此，地铁建设单位挖掘了清朝和日据时代后的桃园铁路遗址。

特别是在2020年，桃园地铁的建设挖掘了刘铭传的铁路遗迹，但关于谁是“台湾铁路之父”也存在争议。同年7月，正式投入运营的台湾博物馆铁道部公园曾在展区介绍，日据时代，铁道大臣长谷川贤介是“台湾铁路之父”，这一点受到外界质疑。该博物馆配合民进党政府亲日和去中国化的主旋律。

许多人认为，“台湾铁路之父”应该是台湾第一任省长刘铭传。后来，苏贞昌说：“我要向所有为台湾做过任何事情的人表示最崇高的敬意和感谢。”无论哪个时代，最重要的是为土地和国家的爱而工作。铁道部园区的展区也删除了“台湾铁路之父”的字样，相关争议就此结束。

桃园市轨道交通工程局总工程部张俊雄表示，该场地受道路宽度和周边建筑的限制，与桃园地铁线路高度重叠，不可能进行工程变更。如果将其保留在原位，甚至可能无法将铁路埋在地下。目前，一处20平方米的清代铁路文物已被发掘，让考古公司庶古文创将其保留，未来将设立一个展厅。此外，根据文化局文化资源审查会议的决议，翻模、三维扫描铁路文物，提取日据时代便所等文物。未来活化遗址的部分文物资产将由台湾铁路规划和展示。原址现场展示的时间和数量，按照文化局的意见办理。

桃园市文化局表示，该遗址是否在现场保存尚未确定。台湾铁路及相关单位仍在规划方案，将提交局审议会讨论。此外，未来地铁建成后，桃园新站将规划相关文物展示空间。