中平四年，韩遂杀边章及北宫伯玉、李文侯，拥兵十余万，进军围陇西。
四月，凉州刺史耿鄙率六郡兵讨伐韩遂，陇西太守李相如、酒泉太守黄衍反，与韩遂连和，耿鄙抵挡不住，退守酒泉，后贪图享乐，抢别驾迪宁之妻，为其所杀。
时司马马腾杀迪宁报耿鄙之仇，左右信之，听其调遣，腾乃尽掌鄙所统之兵。
韩遂乃写书于腾曰：“吾知公乃名门之后，以匡扶汉室为荣，然今之汉，已非彼之汉也，宦官当道，民不聊生，公助此国有何意？
不如与吾一起，推翻其政，再创安逸之世，尚可再以汉为国号，亦不失汉臣之名也。”
马腾闻之有理，乃与其歃血为盟，结义为兄弟，共图大事。
时有汉阳人王国，自称合众将军，与马腾、韩遂联合，进而围汉阳，汉阳太守傅燮战死，腾、遂等共推王国为主，攻掠三辅地区。
中平五年十一月，天下群雄割据，王国乃乘机围陈仓。
灵帝乃诏复拜皇甫嵩为左将军，督征南将军董卓，合兵四万人以拒之，然马腾、韩遂骁勇，数战不利，乃退守陈仓。
中平六年二月，王国围陈仓八十余日，因城池坚固，久攻不破，国乃引军撤退。
皇甫嵩乃趁机率军追击，大获全胜，斩首一万余级。
遂、腾等人认为王国无能，共同将其废掉，胁迫前任信都县令、凉州名士阎忠担任首领，统率各部。
阎忠不肯助纣为虐，而愤然就死，时董卓军中一人不知为何，因忠之死怒于遂、腾。
一时间锋芒毕露，先献策出奇兵大破二人，夺其四城，后又设反间之计，使二人继而互相攻杀，势力逐渐衰弱。
此人辅佐李傕一年余，行踪诡异，时而时现，镇守西凉之地，轻易献策便能压制腾、遂等人。
至牛辅下令，李傕出军，此人曰不可，若李傕离境，马腾、韩遂等必然骚乱而起，那时无人可挡。
李傕惧牛辅乃董卓之婿，不敢不听，遂未从之，其乃走，后果真如此人所言，马腾、韩遂起兵横扫西凉，割据一方。