实际上，案情原本很简单，但是一个跑江湖的能直接进入总督校场刺死朝廷一品大员，加上经过四个多月审讯，却得出如此简单的供词，一时间舆论一片哗然，都以为该案没那么简单。迫于舆论，慈禧只好谕令曾国藩由直隶回任两江复查，并派刑部尚书郑敦谨等前往南京会审。于是，曾国藩抵达江宁府后，不审案，每天只是阅读纪晓岚的《阅微草堂笔记》。表面如此，实际上，他早已暗中派出部下彭玉麟、赵烈文、吴汝纶等进行调查。很快调查结果出来了，其中有两个说法很重要：
第一，张汶祥原为河南光州人，曾与好友曹二虎、石锦标加入捻军，张因有功升任头目。马新贻做合肥知县时，曾办团练与捻军对抗。一次被张文祥等人活捉，张借马新贻的关系降清，并私下与马结为兄弟。张文祥被马新贻收编后，任职营官，由其统领收编的山字营。山字营屡立战功，使马得以不断升迁。马升为安徽布政使时，曹二虎将妻子接到马府居住。马见二虎之妻貌美，起歹心、骗奸。张知情后告知二虎，张、曹以为马新贻行为不端，于是密谋报复。谁知马派曹去寿春镇领取军火，同时派人密告该镇总兵徐周，称曹二虎"通捻"，命徐立为捕杀。曹二虎被杀，张文祥逃脱，誓为二虎报仇，最终复仇成功。第二，马新贻是回人，其父为山东菏泽回民之首，与甘肃回王有联系。马与太平军、捻军作战，多得回民资助，故屡立功、升迁快。马对回王一直寻机报答。马有一亲兵徐义，原与张文祥一起投靠于李世贤部。李兵败后徐义降清，成为马的亲兵。一次，徐义与张相见，闲聊时徐告知张马新贻与回人的关系，并说西北回王想出兵南下，马为内应，事成后让马新贻统管江浙。二人以为马新贻暗通回王，之后马又下令取缔私营店铺，张文祥断了生计，就为国除害、为己泄愤，行刺马新贻。
到了这里，张文祥刺杀马新贻的动机就有：第一，暗通海盗，挟仇报复；第二，马见色忘友，忘恩负义，张为友复仇；第三，马暗通回部，得罪张，张以卫清室中原、泄私愤而刺马。但是，这样的结论，还是和前一次一样平淡无奇，太像有意在隐瞒什么。很快，传言又再次四起。有的传言丁日昌因马新贻查办其子，托请不入，就雇人报复。也有传其实与曾国藩与朝廷的权力之争有关……实际上，此时压力最大的要算曾国藩了，因为当时民间流传最广的要数张汶祥很有可能是受湘军高层指使铲除威胁。这个湘军高层是谁？不就是曾国藩他自己吗？传言说的是有板有眼：同治七年，慈禧太后召见马新贻，密旨马新贻调查湘军攻陷天京后太平天国金银财宝的去向。马新贻执行密旨，可能得罪了湘军高层。太平天国经营十余年，且建立了"圣库制度"，除了各种粮饷外，据说天王府有无数金银财府宝，其他王府、将军府也有很多珍奇玩物。曾国荃攻陷天京后，放纵湘军抢掠近一个星期，还放了一把大火，烧了几天几夜。于是，民间纷纷猜测湘军都中饱私囊，大车小辆向湖南老家运送财物。几年时间里，湘军子弟抢购土地遍及湘鄂。朝野上下议论纷纷，恭亲王有些看不顺眼，慈禧心中也不痛快。要知道，当时的湘军，经过十几年的发展，实力迅速膨胀，镇压太平天国后，民间就传言曾国藩有野心，实际上其属下早就怂恿他谋取帝位。这样一来，慈禧能睡得安稳吗？为此，她选择了马新贻去"制约"曾国藩。湘军被裁撤后，江南地区的黑势力逐渐扩大，散兵游勇又与黑势力结合，早已成为社会一大公害。在惩治散兵游勇方面，马新贻可以说是不择手段的，特别是他任命以剽悍著称的袁保庆为营务处总管，抓到为害百姓、违法的散兵游勇随即就地正法。当时这些散兵游勇和黑恶势力对他恨之入骨。曾任江苏巡抚、湖广总督的郭柏荫对其孙郭公铎说："张汶详行刺有幕后怂恿者，应是这一类人物，最初有意制造流言的，也是他们。"高拜右在《刺马案与湘军》中载："刺马案，终清之亡，迄莫详其真相，实则马之死，死于湘军之嚣张气势。"可见，曾国藩很难洗清"刺马案"背后的主谋身份。于是，"刺马案"结果有以下两种可能。第一，马新贻被刺死，案情原本简单，只是发生的时间恰好碰上朝廷正在密查太平天国藏宝之谜及湘军在南京的其他劣迹这个节骨眼上。曾国藩或许不是主谋，但主谋是湘军中的重要人物逐渐被"坐实"了，且案发后，曾国藩也有可能清楚谁是背后主谋，但形势迫使他不能对外公布案件真相。
第二，马新贻被刺死，案情原本简单，而曾国藩查了很久却和原来调查结果差不多，他怕人不服，就拖延时间，谁知民间却认为他心里有鬼，不敢及时公布案情结果，是藏有私心。不过，说实在的，马新贻生前在江南着手整顿社会秩序、调查财富分配,确实触犯了湘军的利益。现在他死了，受益最大的还是曾国藩。
