后元二年，汉武帝病危，临终前指定霍光、金日磾、上官桀、桑弘羊四人为辅政大臣，在其驾崩之后，辅佐年幼的刘弗陵治理国家。值得一提的是，这里面地位仅次于大司马霍光的金日磾，却是一个匈奴人。

众所周知，汉武帝一生都在与匈奴为敌，临终前为何会指定一个匈奴人做托孤重臣？

金日磾本是匈奴贵族，有着自己的部族和领地。但是无奈其所处的时代正好遇上了汉武帝反攻匈奴，其所在的休屠部落为帝国名将霍去病所击败，损失不小。而在草原上，弱肉强食，一旦部族衰微，就会惹来其他部落的觊觎，最终被吞并。尤其是休屠部本就有着战败的污点，单于很可能会以此为借口，吃掉休屠部落。

为了自保，当时金日磾的父亲休屠王，与同病相怜的浑邪王商议，约定归降汉朝，寻求庇护。然而，休屠王这个人瞻前顾后，中途反悔。浑邪王一怒之下，灭了休屠王，吞并了休屠部落，随后领着部族归降汉朝。

浑邪王归降之后，汉朝给出的待遇不错，封漯阴侯，亿万户，也就是常说的万户侯级别。而金日磾他们家原本也该是这个待遇，但因为归降前夕父亲被杀，部落被吞并，家人都贬为奴隶，只能是到黄门当个小马夫，当时金日磾十四岁。

日磾以父不降见杀，与母阏氏、弟伦俱没入官，输黄门养马，时年十四矣——《汉书》

简单来讲，金日磾虽然顶着匈奴休屠部太子的身份，但实际地位比奴隶好不到哪里去，所以他的童年是比较悲惨的。

不过金日磾运气不错，由于在宫里养马的缘故，所以有机会遇到汉武帝。当时汉武帝一时兴起，召阅各部所养马匹。汉武帝和妃子大臣们于高台之上观礼，金日磾等马夫则牵着马从下面走过，当时马夫们都好奇这样的大场面，东张西望。只有金日磾目不斜视，自顾牵马。

久之，武帝游宴见马，后宫满侧。日磾等数十人牵马过殿下，莫不窃视，至日磾独不敢——《汉书》

而他这个人本来就生得高大，牵着的马也是膘肥体壮、毛色鲜亮，尤其引人注目。汉武帝见其气质不凡，便询问其来历，这才得知他是休屠王之子。虽然休屠王已死，但其名声还在。金日磾堂堂休屠部太子，在降归汉朝以后，居然只配养马，这怎么也说不过去。毕竟又不是战场上俘虏来了，人家怎么也算是主动归降。

汉武帝考虑其身份特殊，于是给他升了官。与此同时，金日磾在悲惨遭遇之下依然能保有贵族气质，言语间留有威严，汉武帝觉得他是个人才，不由得心生喜欢，日渐宠信。

是以，金日磾遇到了自己的伯乐，在汉武帝的提拔下，一路从御马监做到了光禄大夫，成为了汉武帝晚年最为信任的人之一。

当然了，这也是源于金日磾自身的努力。