黄兴和陈其美积极与各界联络,并同公共租界的外国巡捕房联系,悬赏一万元缉拿刺杀宋教仁的凶手。沪宁铁路局因为凶杀案发生在火车站内,有损铁路局的声誉,也出赏金五千元。江苏省都督程德全通电全省各地官吏协助捉拿凶手,限期破案。
正在日本访问的孙中山也赶回国内。
然而,破案工作十分艰难。除了宋教仁身上取出的一粒勃朗宁手枪子弹,和车站内找到的空弹壳外,没有任何有价值的线索。
3 月23 日下午,国民党上海支部举行隆重的移灵仪式,将宋教仁的遗体从医院移往法租界内的湖南会馆停放。送殡的队伍长达十几里,加入送葬行列的人越来越多,许多人痛哭失声,围观的人像潮水一样涌来涌去。宋教仁的遗体盛放在楠木灵柩中,安放在扎满花圈的马车上,在浩浩荡荡的人流护送下,到达了挂满挽联的湖南会馆。
当天晚上,两个四川口音的学生,找到国民党上海交通部,提供了一个极为重要的线索。他们说,在他们住的四马路鹿鸣旅馆,住着一个名叫武士英的凶汉,前几天曾拿一张照片给他们看,说只要杀了这个人,就有人会给他很多钱。当时两个学生也没在意,后来看到报纸上所登的宋教仁遗像,才知道武士英所杀的就是宋教仁!今天又见到这样多的人为宋教仁送葬,才明白宋教仁是个为人民办事的好人,所以赶紧来报告这个线索。
真是“山重水复疑无路,柳暗花明又一村”。这消息当即报到了陈其美那里。陈其美当即今人到鹿鸣旅馆去监视武士英。这些人到鹿鸣旅馆一问,发现武士英已经结帐走了;他们在武士英的房间里只发现一张名片,上面写的是“江苏巡查长应桂馨”。陈其美立刻派人向法租界巡捕房报告。这几天同样绞尽脑汁、熬红双眼的巡捕们马上出动,顺利地抓住了应桂馨。接着,在应桂馨家又查出了他同赵秉钧往来的大量信函和电报。陈其美看到这些信函电报后,简直不敢相信自己的眼睛:原来,暗杀宋教仁的竟是袁世凯、赵秉钧一伙,他们是直接指挥者!
那个杀人凶手武士英,是个心狠手辣、头脑简单的家伙。应桂馨答应他,只要杀了宋教仁,就给他一千块大洋。武士英行凶后,一再跑到应桂馨家去讨这一千块大洋,结果也被巡捕逮住了。
3 月25 日,孙中山从日本赶回上海,主持国民党工作。当他知道暗杀宋教仁的幕后指挥是袁世凯时,立刻意识到,通过正常的法律途径来惩治凶犯,是不可能的事了。因此,在国民党领袖们的秘密会议上,孙中山建议国民党应该夺取主动权,在所能控制的各个省区组织军队,武装讨伐袁世凯。他主张先下手为强。他说:“袁世凯想使封建专制死灰复燃,他辜负了国民的信任,必须将他除掉。国会只是打口头官司,法律也没有抵抗专制的力量,对付袁世凯这样掌握着军事大权的野心家,只有甩武力对抗武力。我们应该趁袁世凯在全国不得人心的时机,起兵讨伐袁世凯。只有出其不意、攻其不备,以迅雷不及掩耳之势先发制人,才有取胜的机会。错过这个时机,将来会后悔莫及的!”
但国民党内以黄兴为代表的大多数,却坚持主张通过法律途径求得解决,认为只要公布袁世凯一伙暗杀宋教仁的确凿证据,袁世凯就会“不攻自倒”。接连几次会议,双方都没有取得一致的意见。结果白白地错过了时机,被袁世凯抓住机会,大耍两面派的老把戏,一面诡辩抵赖,一面加强武力镇压的准备,并且阻挠成立特别法庭公审凶手的方案,改由上海地方法庭开庭公审凶手。可是,在开庭的前一天,杀人凶手武士英就在看守严密的监狱中突然死亡,既无外伤,也没有中毒的迹像。尽管大家都怀疑这是袁世凯一伙杀人灭口,但一直查不出确凿的证据。