阎行返回到凉州后，转达曹操要求韩遂入朝的建议，并建议他遣子入质，但被韩遂拒绝。过了些时日，韩遂因担心曹操讨伐，才派自己的儿子入朝，并让阎行的父母同行。
建安十六年（211年），曹操派夏侯渊西征张鲁，因行军路线要经过马超（马腾入京后，马超代统其众）、韩遂的辖区，由此引发二人的猜疑，不久便联合起兵反曹，结果被曹操使用反间计击败。
阎行投降曹操后，很受器重
韩遂兵败后逃回金城郡，阎行此时依然追随。曹操在得知阎行曾苦劝韩遂归顺朝廷的消息后，便将韩遂在洛阳的子孙全部处死，并写信给阎行，告知他的父母安好，但朝廷不可能永远为他们养老，意在催促阎行杀死韩遂投效。韩遂在得知阎行父母安在的消息后，为了让阎行继续效忠自己，便将女儿嫁给他，由此引起曹操对阎行的疑忌。
