日积月累，张士诚受够了欺凌，在1353年正月，32岁的张士诚同弟弟及同乡共十八人密谋起义。他们歃血为盟，抄起挑盐用的扁担，先是打死了盐警丘义，又冲进富户家中，将钱粮分给当地百姓，史称"十八条扁担起义"。也许是张士诚早年积累的威信起了作用，也许是穷苦盐民早已受够，总之，张士诚的武装起义一呼百应，一大批人纷纷拿起武器要跟着张士诚干！
张士诚的起义军先攻下泰州，后又占据了高邮，此时的张士诚没想到起义这么顺利，有点飘飘然，于是称王建国。但是枪打出头鸟，元朝丞相脱脱决定拿张士诚杀一儆百，亲率百万大军围攻高邮，并放话说不接受投降，誓要屠尽当地兵民。此时的张士诚悔的肠子都青了却没有丝毫办法，但是人算不如天算，脱脱在元朝内斗中被算计，遭毒酒赐死。张士诚趁元朝大军群龙无首之时，一举击溃，给腐朽的元朝再一次沉重打击。
度过了高邮一劫后，张士诚的起义军蓬勃发展，将士数十万，地盘纵横两千余里，而且占据的多数都是江南富庶之地，因此有"陈友谅最桀，张士诚最富"之说。1356年，张士诚定都平江（今苏州），同年，朱元璋也趁张士诚进攻江南元军时攻下集庆（今南京）。
