听说汉纳根在天津闲住后，他第一时间想到的是把他调到南京帮助自己编练新军。后考虑汉纳根这个人好夸夸其谈，且不听约束而放弃。
他的计划是以德国陆军为学习对象，聘请有经验的德国军事人才为教习。
1895年12月27日，张之洞上《选募新军创练洋操折》，第二年1月7日得到朝廷批准。这标志着清末第二支新军的诞生，其名曰"自强军"。
根据张之洞最初的计划，"自强军"的额员为10000人，最终成军2860人。张之洞回任湖广后，"自强军"由刘坤一接手。
1901年7月18日，清廷下旨将"自强军"调往山东交袁世凯训练布防。刘坤一随即将"自强军"裁撤884人后，于1902年4月将其调往山东并入袁世凯的"武卫右军"。1905年春与武卫右军合编入北洋常备军第四镇。
