首先，从自己身边"高干"开刀。明初的中书省下属吏、户、礼、兵、刑、工六部中，由于大量留用元朝的旧官吏，以及一些造反起家的功臣。他们有恃无恐贪赃枉法，朱元璋对这些官员毫不留情，进行了严肃惩处。
对京师高官如此，对皇亲国戚也不手软。朱元璋的女婿、附马都尉欧阳伦，因插足商业，走私贩私，向陕西贩运私茶，从中获取暴利。任意打骂这些地方官。朱元璋知道后，立即下令赐死欧阳伦。
其次，用严刑峻法惩治贪官污吏。洪武四年（1371），朱元璋诏令："自今犯赃者无怠"。洪武八年（1375），朱元璋又下令，犯赃罪的官吏一律贬谪到凤阳屯种，也就是罚去干农活。仅洪武九年（1376）一年，在凤阳屯种的官吏就接近一万人，其中大部分为贪官。
在《大明律》中，朱元璋对贪官污吏处罪特别重。其中，犯有贪赃罪的官吏，一经查实，一律发配到北方荒漠之地充军；官吏贪污获赃六十两以上的，处以枭首示众之刑。对付贪官污吏，除去用刑法规定的"五刑"，朱元璋还常常法外用刑，包括抽筋、挑膝盖、剁指、剁脚、剥皮等酷刑。在官衙前，往往有一个剥皮场，和一个专挑贪官人头的长杆；在官衙办公书案旁，则有一个塞满稻草的人皮，用以震慑和恐吓那些心存贪渎之念的官吏，使之触目惊心。
由于铁腕肃贪，雷厉风行，朱元璋在位期间，明朝河清海晏，百姓乐业。毛主席评价朱元璋："自古能君无出李世民之右者，其次则朱元璋耳。
