1911年4月“镇远”退役以后，就前往横须贺，并于当年11月24日作为靶船，供“鞍马”号装甲巡洋舰测试舰上8英寸主炮测试威力之用。1912年4月6日“镇远”在横滨出售被当作废钢拆毁。出售所得的152387日元被用于建造广岛湾内江田岛海军兵学校的礼堂（总费用40万日元）。

然而由于“镇远”的特殊象征，被拆解并不意味着它的影响就此结束。

早在1896年，日本就从“镇远”上拆下了两具重达4 吨的锚，还有 120英尺长的锚链和和10发305毫米炮弹，将这些物品安置在东京上野公园内进行公开展示。在两个铁锚之间，是桦山资纪题词，用于纪念在甲午战争中侵占台湾、澎湖战役中被击毙的日军士兵。而在其中一具船锚旁，还特意挂了一块木牌，上书“被俘军舰“镇远’号之锚”，以夸耀日本海军在甲午战争中的胜利。

1942年5月27日，日本一个名为“黑铁会”的民间组织为了借甲午战争的胜利鼓动日本国民继续为太平洋战争卖命，在上野公园“镇远”铁锚展示处又新立了一块纪念碑，讲述了“镇远”的服役历程，并在铁锚之前放置了一块描述甲午战争时期日本海军战斗经历的木牌。

甲午战败以后，中国国内很多人都将视为奇耻大辱。尤其是海军内部，不少人都以“雪甲午耻”为自己的奋斗目标。像1942年，邓兆祥将军被调到迁至贵梓的马尾海军学校担任圳育主任时，就亲笔题写了“雪甲午耻”的匾额悬挂在图书馆大门之上，以激励海军学员不忘国耻。日本公然将“镇远”的船锚作为胜利标志进行展示，自然格外让人难以接受。

只是甲午战争之后中国国力衰微，对外也强硬不起来，面对日本的羞辱只能忍气吞声。直到抗战胜利以后，民国政府海军才旧事重提，希望借此机会将船锚索还，以雪国耻。赴日先遣队的海军代表钟汉波少校就受命索回“镇远”遗物一事。

钟汉波少校初期和盟军办事处交涉此事时，并不是很顺利。盟军办事处以此事过去太久为由，不愿意受理。后来钟汉波少校和中国赴日先遣队第一组组长王丕承少将向麦克阿瑟的参谋长查尔斯·威洛比少将求助，说明了“镇远”遗物的意义，经过钟汉波的反复陈情，威洛比最后同意了此事。

随后日本拆除了上野公园内的纪念碑，并于1947年在芝浦将“镇远”的两具船锚、锚链和10发炮弹移交给了中国代表钟汉波少校。10月，“镇远”的遗物运抵上海，后被转移到青岛海军军官学校，以提醒海军学员牢记国耻，不忘历史。新中国成立以后，这些物品又被安置在了中国人民革命军事博物馆。

不过“镇远”的遗物并没有能够全部回到中国，还有相当数量依然流散在日本——比如说舰上舰钟就没有索回，后来一只存于粟岛商船学校遗迹，另一只存于神奈川县小田原市小田原高中，而在“三笠”纪念舰的旁边，也有两枚“镇远”上的炮弹——不得不说略有一些小遗憾吧。