宋太祖即位后,大封功臣,很多曾经拥护过他的将士们都得到了封赏,掌握了军权。但是,也有一些人不服。在赵匡胤登基不到半年的时间里,就有两名节度使企图反叛。赵匡胤平定了他们的叛乱之后,就与亲信赵普商量,怎样才能确保自己的统治不会被别人推翻。赵普就提醒宋太祖,黄袍加身的故事很有可能会重演,并建议宋太祖削弱藩镇的权力,把兵权收归中央。宋太祖很赞同他的意见,决心收回大将们的兵权。

公元961年的一天,宋太祖在宫中举行宴会,请曾经拥护过他当皇帝的统兵将领石守信、王审琦等人喝酒。饭饱酒酣之时,宋太祖命令在旁伺候的随从们退出,拿起一杯酒,乘着酒兴对众将说:“要不是靠你们出力,我今天当不了这个皇帝。不过,这皇帝出不好做,还不如节度使逍遥,如今我简直没有一夜能睡得安稳。”石守信等人很奇怪,忙问原因。宋太祖就说:“我知道你们都忠心耿耿,可是如果有一天,你们的部下贪图富贵,也把黄袍加在你们的身上,那事情也就由不得你们了。”

守信等人听了这话吓得半死,忙跪下磕头,请宋太祖为他们指出一条出路。宋太祖就说:“你们不如放弃兵权,到地方上做个闲官,多置办些田产,给子孙多留家业,再买些歌伎,天天饮酒作乐,欢度晚年不好吗?我与你们结成儿女亲家,互不猜疑,岂不很好石守信等人大悟。第二天,这些人不约而同地递上一份奏折,说自己年老多病,请求解除兵权,回家休养。宋太祖欣然同意解除他们的军职。不久，宋代太祖以同样的方式，撤掉了其他几个诸城的指挥官，并替换了中央和地方的士兵。

这样，地方上的重兵司令就成了没有实权的空头衔，皇军的将军就不可能有重兵。宋太祖以后，他先后派公务员到地方当官，派官管理地方财政。为了避免这种情况的“弱国王和强部长”,宋太祖又在宰相之下设参知政事若干人,以削弱宰相权力,并改变以前皇帝与宰相共同商讨国事的制度,改为由前者批阅,再给后者下旨处理。通过这些措施，太祖稳固了中央和地方政府的财政、政治和军事力量。