诸葛亮深知，此时若是弃城逃跑，无疑会暴露实情，司马懿那十五万大军追过来谁也不可能逃得掉。于是他神情自若地传令军士：“将城中所有战旗尽数放倒，所有兵士坚守城池，凡有擅自出入和大声喧哗者，一律斩首！”然后又命令将四方城门大开，每一城门处只派二十名军兵扮作百姓，洒水扫街，装作若无其事的样子。一切安排就绪后，诸葛亮头戴方巾，身披鹤氅，带着两名书童，持琴登城，在城头上边弹琴边饮酒，一副安然自得的样子。
魏军的先锋部队见此情景，不知虚实，急忙回报司马懿。司马懿来到城下，远远见到城头诸葛亮的悠然神态，琴声悠扬丝毫不乱，那两个小书僮也是神情自若、十分镇静。再看四处城门大开，每一处都有几名百姓在细心地洒水扫街，对近在咫尺的魏军视而不见。司马懿本就是个多疑的人，见此情景心中立刻觉得不妙。多年来他通过与诸葛亮的交战，已经十分了解诸葛亮的性格了，知道他是个行事谨慎的人，从来不弄险，今天这样安然自若，城中又是秩序井然，对于自己的十五万大军视如不见，显然是早有准备，城中定有埋伏。
于是司马懿急忙下令撤兵。司马懿之子司马昭见状劝阻说：“诸葛亮手中可能无兵，这样做是在迷惑我们，不如让我带兵攻城，就能知道虚实了。”但司马懿认定了其中有埋伏，又怎么肯让儿子涉险，坚决不许，十五万魏军全部退撤。