在以后的几天内，两军之间只有一些小的战斗。俄国军队派出小股部队试图登城，城上的鞑靼人用猛烈的炮火还击，迫使俄军不得不后退。有时鞑靼人追出来，双方在原野上交战。俄国军队在战斗中俘虏了一些鞑靼士兵，他们把这些战俘面对喀山城绑在木桩上，企图用他们的哭叫声促使城中的鞑靼人出来投降。一个传令官对城中喊话说：“你们如果屈服于伊凡沙皇，沙皇将不追究你们过去的罪行，确保你们的生命和自由！”城楼上面，鞑靼人的传令官洪亮地回答说：“与其让下贱的基督徒杀死我们的兄弟，不如由我们的清真之手来拯救他们！”说完，城上的鞑靼人瞄准被绑在木桩上的战俘，用箭把他们全都射死了。

8 月末，俄国军队经过了短期的休整，沙皇又想出了攻城的计谋，他找来了一个德国工程师，让他负责挖一条地道进入城中，用来炸毁城内的主要饮用水源。工兵们在地下挖了十来天，已经可以听见头顶上有行人来往的脚步声了。他们确定水源所在的位置后，就在附近的地下安放好了火药。9 月15 日，伊凡四世登上了一个小山岗，在堡垒的掩护下，下令引发火药。随着一声巨响，爆炸震撼了整个喀山城，一段城墙被炸塌了，石块、梁柱和鞑靼人残缺不全的肢体被高高地抛向天空。俄国军队乘着城中混乱一团的机会，从城墙的缺口冲了进去。然而，惊魂稍定的鞑靼士兵在妇女尖叫声的激励下，又一次击退了攻城的俄国军队。

鞑靼士兵进行了猛烈地反扑。同时，天上下起了连阴雨，帐篷吸足了水后，雨水就往下渗透，俄国军队无处躲避，被淋成了落汤鸡，陷在泥泞中不知所措。于是有人传出谣言，说每天凌晨，都有蒙古的巫婆在城头上施展妖法，召唤魔鬼用坏天气来惩罚信仰基督教的俄罗斯人。为了稳定军心，伊凡四世从莫斯科请来一个据说神通广大的大十字架，这个大十字架本来是俄罗斯人用来祈雨的。同十字架一起来的还有一批教士，他们排成队列，护卫着大十字架走过俄罗斯军队的营地，教士们边走边虔诚地诵念经文。说来也巧，正在这时，阴雨停止了。俄国军队兴奋地大声欢呼：“魔鬼撤退了！”

在此同时，俄国士兵继续在城下挖地道，并爆炸了几桶火药，虽然爆破暂时没有取得显著的效果，但是他们终于在喀山城下埋进了足够的火药。将军们于是建议伊凡四世发动总攻。伊凡四世却坚持要让教士们为士兵们举行圣礼以后再开战。他们从拂晓前就开始准备，等到一切仪式完成，天已经大亮了。这是一个难得的大晴天，万里无云，四周一片出人意料的寂静。沙皇一声令下，士兵们引爆了火药，只听一声巨响，连沙皇脚下的土地都被强烈地震动了。沙皇兴奋地眺望着前方，喀山城上空烟尘弥漫，泥土和杂物一直飞到沙皇的脚下。紧接着，又是一声爆炸，10 万俄国大军发出雷鸣般的呐喊：“上帝和我们同在！”

俄国大军发起冲锋了。鞑靼守军拼命抵抗，从城头上抛出滚木、擂石，泼下准备好的开水。攻城的俄军死伤惨重，但后面的士兵仍然不顾一切地向上猛攻。他们把云梯紧靠在城墙边，让战友们从自己的肩上跃进城墙缺口，冲进城里的俄军挥起战刀，狂砍乱杀。守城的鞑靼人坚持不住了，不断向后退却。叮当作响的刀剑碰击声、喊杀声和呻吟声却传不进沙皇的耳中，因为他这时正跪在圣像前面作祈祷。将军们不断跑来，请他停止祈祷，亲自到伤亡惨重的战场上去鼓舞士气，可是沙皇却坚持要做完祈祷，否则决不外出。

他的部下不能不怀疑，沙皇这样做未必是出于虔诚，倒很可能是因为胆怯。