而此时在耿鄙身边担任军司马的马腾趁乱投奔到韩遂的麾下。耿鄙因为自家军中起了内乱而被杀,于是凉州地区的汉军宣布解散。王国开始自称为合众将军,韩遂、马腾随即与其联合,进而攻占了汉阳郡,致使汉阳太守傅燮战死。王国此时已经被众人推举为主帅,随后一路攻掠至三辅地区。公元188年十一月,王国率领大军四面攻打陈仓,汉灵帝恐怕丢掉陈仓郡这个屏障,长安城会失守,急忙派出左将军皇甫嵩以及督前将军董卓各率二万军马前往抵抗。公元189年二月,王国的联合部队围攻陈仓已经历时八十余日,但是由于城池坚固,一直无法攻破,己方却因为补给供应不上,损失极为惨重。此时皇甫嵩趁机率军出击,结果一战大获全胜,斩杀西凉叛军一万余人。韩遂、马腾等人一气之下,共同废掉了王国,逼迫前任信都县令、凉州名士阎忠担任首领。而阎忠为人忠义,不肯助纣为孽,于是痛恨众人而致生病,不久便病死了。韩遂、马腾等人群龙无首,便开始逐渐地争权夺利,随后演变为互相攻杀,于是整个叛军的势力渐渐瓦解。此后,经过了多年的战乱,直到韩遂、马腾结为异性兄弟,凉州地区方才稳定下来。可是好事不长,过了十几年,两人又因为部下之间的矛盾,开始成为仇敌,以至于二人开始连年交战。直到后来曹操派遣钟繇、韦端前去劝和,两家方才罢兵。公元210年,建安十五年,韩遂上表朝廷亲自率军讨伐反叛的武威太守张猛,只留下犍为郡太守阎行守住旧营。张猛闻讯,准备引军前来抵御。可是其手下的官吏以及百姓都畏惧韩遂,于是反而一同开始攻击张猛,致使张猛最后落得登楼自焚而死的下场。
韩遂击败了张猛之后,收编其队伍刚刚回到驻地,突然侍从来报,马腾之子马超携重礼前来求见。
韩遂连忙令人请入,两人行了叔侄之礼,韩遂道:“孟起贤侄今日前来有何贵干,寿成贤弟在邺城可一向安好?”
马超道:“家父身体着实康健,小侄今日拜访,确有要事想与叔伯商议。”
韩遂心领神会,于