阎行返回到凉州后,转达曹操要求韩遂入朝的建议,并建议他遣子入质,但被韩遂拒绝。过了些时日,韩遂因担心曹操讨伐,才派自己的儿子入朝,并让阎行的父母同行。
建安十六年(211年),曹操派夏侯渊西征张鲁,因行军路线要经过马超(马腾入京后,马超代统其众)、韩遂的辖区,由此引发二人的猜疑,不久便联合起兵反曹,结果被曹操使用反间计击败。
阎行投降曹操后,很受器重
韩遂兵败后逃回金城郡,阎行此时依然追随。曹操在得知阎行曾苦劝韩遂归顺朝廷的消息后,便将韩遂在洛阳的子孙全部处死,并写信给阎行,告知他的父母安好,但朝廷不可能永远为他们养老,意在催促阎行杀死韩遂投效。韩遂在得知阎行父母安在的消息后,为了让阎行继续效忠自己,便将女儿嫁给他,由此引起曹操对阎行的疑忌。