諸葛亮平定南中之后，經過兩年準備，公元227年冬天，諸葛亮到了祁山，決定派出一支人馬去占領街亭，作為據點。當時他身邊還有幾個身經百戰的老將。可是他都沒有用，單單看中參軍馬謖。

馬謖沒有打仗的經驗，自以為熟讀兵書，堅持要在山上扎營。王平一再勸馬謖沒有用，只好央求馬謖撥給他一千人馬，讓他在山下臨近的地方駐扎。張郃率領魏軍趕到街亭，看到馬謖放棄現成的城池不守，卻把人馬駐扎在山上，馬上吩咐手下將士，在山下筑好營壘，把馬謖扎營的那座山圍困起來。馬謖幾次命令兵士沖下山去，但是由于張郃堅守住營壘，蜀軍沒法攻破，反而被魏軍亂箭射死了不少人。蜀軍在山上斷了水，王平帶領一千人馬，穩守營盤。他得知馬謖失敗，就叫兵士拼命打鼓，裝出進攻的樣子。張郃懷疑蜀軍有埋伏，不敢逼近他們。王平整理好隊伍，向后撤退，不但一千人馬一個也沒損失，還收容了不少馬謖手下的散兵。這就是馬謖失街亭的故事。