枢密院，负责全国军务。设立御史台，为天子耳目，负责纠察百官善恶、谏言政治得失；又命班八思节制归顺的武林人士，成立特别保卫机构，为卫护皇室和执行特别任务做准备。
地方上的管理，忽必烈改变宋朝由文臣任知州的积弊，由皇帝直接派中书省臣去地方执政，称为行中书省事。行中书省后来就变成固定的官府名称，又成为地方行政区划的名称，简称行省或省。行省制度是秦汉以来郡县制的发展，奠定了明清以来直到今天省区的规模，这种行省制度一直沿用到今天。
忽必烈登基以后，开始大量重用汉人，首先对佛教的海云大师和子聪和尚师徒颇为器重，将子聪和尚留在身边，改名为刘秉忠。一日，忽必烈问起如何让汉族有才能的人尽为所用之道。
刘秉忠答道：
“只要大王诚心招贤，贤能之士无不倾力来投！”
忽必烈点了点头，问道：
“似此，襄阳城的郭靖和朱子柳等会不会来？”
刘秉忠奏道：
“像郭靖和朱子柳这种侠义为怀、忠君爱民的大英雄大豪杰，只可礼遇，不可屈至。大王应该成全其忠义之心，不能让他变节而成千古骂名。”
忽必烈闻之，叹息良久。
刘秉忠又道：
“其实襄阳城久攻不下的原因，不仅在于襄阳军民的齐心协力，更有赖于郭靖等一班豪侠之士的鼎力相助，如果大王也礼聘一些忠义之士，群策群力，定能使襄阳城拱手来降。”
忽必烈闻言大喜，任命刘秉忠建立招贤府衙，张贴招贤榜，在刘秉忠的举荐下，燕真、贾居贞、孟速思及董文炳、董文用等藩府旧臣；张文谦、李德辉、刘肃、李简、张耕、马亨、王恂、刘秉恕、窦默、姚枢、杨惟中、许衡、赵复、宋子贞、商挺、李昶、徐世隆、贾居贞、刘肃等四方文学之士；阿里海牙、孟速思、廉希宪、叶仙鼐等西域畏兀尔人；回回人札马剌丁、阿合马；吐蕃国师班八思；克什米尔僧人那摩禅师；大食人也黑迭儿；独创的玄冥神掌