在北周时期，韩擒虎承袭了父亲的爵位，以军功官拜都督、新军总管，曾劝降北齐的金墉城，还多次击败陈军，威震南朝。
公元581年，杨坚建立隋朝后，有志于一统天下。在高颎的推荐下，他起用贺若弼为吴州总管、韩擒虎为庐州总管，安排俩人在南边潜心经营、厉兵秣马，策划吞并南朝的长久之计。
在隋朝蒸蒸日上的同时，陈叔宝却把南朝搅得面目全非，统一中原的时机逐渐成熟。公元588年底，时任晋王的杨广率领51万大军，由西往东全线南下，向陈朝发动全面进攻。韩擒虎兵出庐州、贺若弼出广陵，成为直捣陈朝腹地的先头部队。
与贺若弼的稳扎稳打、循规蹈矩不同，韩擒虎仅仅带领500人发动奇袭。这支精兵悄无声息的推进，兵不血刃拿下采石（马鞍山市西南）、姑熟（马鞍山当涂县姑孰镇），几乎神兵天降般出现在建康城西南20里的新林。
之前在与陈朝对峙期间，韩擒虎恩威并施、信义卓著，大名早就威震江南，此时早已对陈叔宝失望透顶的南朝父老乡亲纷纷前来迎接，"江南父老素闻其威信，来谒军门，昼夜不绝"，多支陈朝军队也随之望风而降。杨广得知大喜，加派人手与韩擒虎会师。
