安抚完南边的南越，汉文帝把目光转向了北方的匈奴。对于匈奴，汉文帝一方面采取老办法“和亲”，在不断地将汉朝公主嫁到匈奴去的同时，还将内地人口迁往边疆，发展当地经济，保证边疆的兵力补给。另一方面，采取晁错的建议，“募民徙塞下”，积极建立防御政策，将一些奴婢、罪犯和平民迁徙到边塞屯戍，编以什伍，亦农亦兵，开后世屯田之先河。虽然匈奴屡次违背约定出兵犯边，但汉文帝以守为原则，很少主动挑事。公元前177年五月，匈奴右贤王又至上郡杀掠吏民，抢掠牲畜，文帝忍无可忍了，派丞相灌婴率八万轻骑逐匈奴于塞外，这是文帝时期唯一一次对匈奴的战争，取得了全胜。以汉当时的国力，未必打不过匈奴，但是国内刚安定，战争只会影响经济的发展，因此汉文帝只是命令边郡严饬武备。他甚至亲自出巡边境军营，检阅军队，却不轻易发兵。
虽然以守为主，但汉文帝对匈奴的提防一刻也没有停止过。为了对付匈奴骑兵，文帝不但鼓励民间养马，“民有车骑，马一匹者，复卒三人”，还在西北边境设立了三十六个牧马场，从事牧养的军卒达三万之多。这样做不仅是为警示匈奴，也是在为将来与匈奴的战斗储备力量。
