203年，孙权为报父仇，率军西征黄祖。黄祖大军溃败，断后的甘宁看到孙权的先锋官凌操，指挥孙吴军进攻。甘宁拉弓放箭，将凌操一箭射死，孙权看到先锋遇难，下令撤军，黄祖因此得以保全，但黄祖依然看不上甘宁，甘宁也有了离开的想法。在好友苏飞的帮助下，甘宁终于离开夏口，并在周瑜、吕蒙的引荐下，甘宁得偿所愿投奔孙吴。
甘宁向孙权献策，要抢在曹操前面夺取荆州，首先要除掉江夏太守黄祖，夺取荆州后，主公就有机会将手伸向巴蜀地区。孙权赞成甘宁的建议，在208年三征黄祖，黄祖兵败被杀，苏飞被孙权生擒，甘宁为救朋友，向主公磕头流血，以自己的性命为苏飞担保，孙权深受感动能于是赦免苏飞。
甘宁跟随周瑜，参加了赤壁之战和围攻曹仁的南郡之战。甘宁奉命，率一千人驻防夷陵。曹仁深知夷陵非常重要，派遣五千人围攻夷陵城，夷陵城内箭如雨下，形势危急，甘宁的部下们吓得心惊胆战，只有甘宁谈笑自若，最后等来周瑜的援兵解救。赤壁之战后，周瑜和甘宁都曾力劝孙权，占据荆州，进军巴蜀。孙权犹豫不决，反而向刘备问计，结果错失良机，反而促成刘备独占益州。
214年五月，为了拔除威胁江南的皖城，孙权率部亲征。吕蒙亲自擂鼓助威，甘宁担任升城督，手持绳索，带头攀爬城墙。庐江郡太守朱光被俘，吕蒙荣立首功，甘宁次于吕蒙，擢升为折冲将军。215年，关羽率部南下，甘宁跟随鲁肃屯兵益州，防备关羽入侵。关羽大军号称有三万人马，他打算派人前往河流上游，在浅水区将河流堵住，准备率部过河。
