大开城门之后，诸葛亮又命每个城门之上派20名士兵扮成老百姓的模样，洒水扫街。诸葛亮自己披上鹤氅，戴上高高的纶巾，领着两个小书童，带上一把琴，到城上望敌楼前凭栏坐下，燃起香，然后慢慢弹起琴来。
就在这时，司马懿率大军兵临城下，见到诸葛昂然自若地坐在城楼上弹琴，左边一个书童手捧宝剑，右边一个书童手拿拂尘，20多个百姓模样的人在低头扫地，旁若无人。他感到颇为不解，因为此前从未见过，在城楼上观看了好一会儿，又抚胡须又邹眉头，最后突然下令撤兵，不敢进城。
诸葛亮待司马懿大军撤走后才慢慢的走下楼，这一出"空城计"诸葛亮以一人之力吓退了司马懿大军。此时城中士兵和百姓才明白诸葛亮的用意，无不赞叹诸葛亮计谋神乎。
