次年，炀帝为躲避中原战火，带领萧皇后等人"南巡"江都，此后便再没能回返关中。再过一年，炀帝的表兄李渊在太原起兵，随即南下攻略关中。李渊攻占长安后，扶立炀帝之孙杨侑为帝，并派人招降萧瑀。萧瑀在朝居官时跟李渊关系甚好，所以一旦接到他的召请，便马上率众归降。
唐高祖对萧瑀极为器重、亲近
萧瑀归降后，李渊大喜过望，即刻任命他为民部尚书，封宋国公。公元618年，李渊废隋建唐，随即便进拜萧瑀为宰相（内史令），授予他裁决帝国大小事务的权力。李渊为表示优宠，经常将萧瑀引升御榻就座，而且从不直呼他的名字，而用"萧郎"代之。
此后数年，萧瑀又升任尚书右仆射、左仆射，依然执掌宰相权力。而对于李渊的信任，萧瑀也是竭尽所能来报效，由此君臣之间更加亲密（"武德元年迁内史令，帝委以枢管，内外百务悉关决。或引升御榻，呼曰萧郎。瑀自力孜孜，抑过绳违无所惮。上便宜，每见纳用。"引文同上）。
