光绪十六年，武训在今临清市杨二庄兴办了第二所义学。渐渐地，他行乞开办义学的事儿被百姓传开来，得到了一些绅士官僚的资助。他继续行乞集资，六年后在御史巷开办了第三所义学。有人劝他娶妻生子，武训却一心一意兴办义学，一生都未成家，他说："不娶妻，不生子，修个义学才无私。"有了钱后，一些亲朋好友多次让他资助，武训不理会他们，唱道："不顾亲，不顾故，义学我修好几处。"
山东巡抚张曜闻知武训义行，特地命人召见他，并下令免征义学田钱粮和徭役，还捐了200两银子；上书光绪帝，给武训颁发了一块写有"乐善好施"的匾额。光绪帝赐给了武训一件黄马褂，他因此名声大震。清政府为嘉奖他兴办教育之功，取"垂训于世"之意，替他改名武训。
光绪二十二年四月二十三日，武训在朗朗读书声中含笑病逝于临清御史巷义塾，享年59岁。他去世后，师生痛哭，百姓听说后也都流下了眼泪，上万人主动为其送殡，以此感谢他的义行。人们按照武训的遗愿，将他安葬在柳林崇贤义塾旁边。十年后，清政府将武训的事迹宣付国史馆立传，为其修墓、建祠、立碑，全国出现多处以武训命名的学校，以此纪念他。
武训"行乞兴学"的义行，不管是在中国，还是在世界教育史上，都是前无古人后无来者。"千古乞丐"的称号，他当之无愧！
