体系被彻底打破，南宋的灭亡已指日可待。在军事上取得重大进展的同时，元朝受降了大批的南宋军队，如何处理这些降兵降将，成了忽必烈的一块心病。全部编入元军，必然会影响全军的整体战力，而且忽必烈对这些南宋降兵根本就不敢信任；杀降，史已有鉴，忽必烈不想象白起坑赵降卒四十万或项羽杀秦降兵二十万那样，给自己留下骂名，何况当时正是打江山的关键时刻，滥杀降兵，必然会招致汉人更猛烈的抵抗。最终，解决问题的途径只有一个，就是发动新的战争，在战争中去消耗这些元帝国的包袱。
还有一个原因，就是传说中日本极为富有。根据《旧唐书》记载：“倭国献琥珀、玛瑙，琥珀大如斗，玛瑙若五斗器。”《新唐书》也记载：“永徽中，倭献琥珀，玛瑙若五斗器。”掠夺财富，对于游牧民族来说，本来就是一个根本的特征。
从至元十年（公元1273年）起，忽必烈开始着手部署征日战争。
第一次东征日本
至元十年（公元1273年）四月，耽罗岛林衍起义，反对高丽王的统治，忽必烈乘机派元军驻高丽统帅忻都、洪茶丘和高丽将军金方庆，率军攻入耽罗岛镇压林衍。之后，元军于耽罗岛设招讨司，驻扎镇边军一千七百人，从而控制了日本与南宋间的海上通道，由此可以使元军可以全力进攻日本。随后，忽必烈召忻都、金方庆等至元大都（今北京）商议征日事宜。至元十一年（公元1274年）正月，忽必烈命令高丽王造舰九百艘，其中大舰可载千石或四千石者三百艘，由金方庆负责建造；拔都鲁轻疾舟（快速舰）三百艘，汲水小船三百艘，由洪茶丘负责建造，并规定于正月十五日动工，限期完成。
六月，九百艘军舰完工，上报世祖忽必烈，忽必烈遂命令由蒙、汉、高丽三族军队组成的联军，东征日本。联军的核心是蒙古族部队计有蒙汉军二万人、高丽军五千六百人，加上高丽水手六千七百人，共三万二千三百人，由征东都元帅忻都、右副帅洪茶丘、左副帅刘复亨统帅，八月出发。