第二天，石守信、高怀德、王审琦、张令铎、赵彦徽等上表声称自己有病，纷纷要求解除兵权，宋太祖欣然同意，让他们罢去禁军职务，到地方任节度使，并废除了殿前都点检和侍卫亲军马步军都指挥司。禁军分别由殿前都指挥司、侍卫马军都指挥司和侍卫步军都指挥司，即所谓三衙统领。
在解除石守信等宿将的兵权后，太祖另选一些资历浅，个人威望不高，容易控制的人担任禁军将领。禁军领兵权析而为三，以名位较低的将领掌握三衙，这就意味着皇权对军队控制的加强，以后宋太祖还兑现了与禁军高级将领联姻的诺言，把守寡的妹妹嫁给高怀德，后来又把女儿嫁给石守信和王审琦的儿子。张令铎的女儿则嫁给太祖三弟赵光美。这就是历史上著名的“杯酒释兵权”。
此番任免后，宋太祖当年执掌兵权的结义兄弟的禁军职务全部被解除，从此也不再授人。石守信虽然保留着“侍卫都指挥使”的头衔，却已没有任何实权。另一方面宋太祖又派李汉超镇守关南、马仁瑀镇守瀛州、韩令坤镇守常山、贺惟忠镇守易州、何继筠镇守棣州、郭进镇守西山、武守琪镇守晋阳、李谦溥镇守隰州、李继勋镇守昭义、赵赞镇守延州、姚内斌镇守庆州、董遵诲镇守环州、王彦升镇守原州、冯继业镇守灵武，“管榷之利，悉以与之，其贸易则免征税。故边臣皆富于财，以养死士，以募谍者，敌人情状，山川道路，罔不睹而周知之。故十余年无西、北之尤也”。
杯酒释兵权只是宋太祖为加强皇权，巩固统治所采取的一系列政治军事改革措施的开始。其后在军事制度方面的改革主要有三项。
第一，建立不同于前朝的枢密院制度。长官为枢密使和枢密副使，主管调动全国军队，分掌军政大权。枢密院与三衙统领各有所司。三衙虽然掌握禁军，但却无调兵和发兵的权力。枢密院有发兵、调兵之权，而不能直接掌握军队。调兵权与领兵权分离，各自独立，相互制约，有利于皇权的控制。
第二，内外相维政策。宋太祖把全部军队分为两