元嘉七年三月初二，刘义隆下诏北伐：
“河南，中国多故，陷没非所，遗民涂炭，每思伤怀。.今民和年丰，国家无事，宜时经略，以固我边疆。可选甲卒五万，给右将军到彦之，统领安北将军王仲德、兖州刺史竺灵秀水军入河，骁骑将军段宏精骑八千，直指虎牢，豫州刺史刘德武劲勇一万，以成掎角之势，后将军长沙王义欣可权假节，率现力三万，监讨诸军事。便备办，月内出。”
在此之前，刘义隆按照先例，就先派遣殿中将军田奇出使北魏，衔命告诉比刘义隆先一年即大位的魏主拓跋焘：
“河南过去是宋土，中途为魏所侵；今当修复旧境，不关河北。”
拓跋焘闻言大怒，对田奇说：“我生下来头还未干，就听说河南是我家地。索要河南如何可得！……如果宋人真要进兵，我当避其锋芒，收兵河北，待冬天到，河冰合，再取河南！”
夏四月，浩浩荡荡的王者之师正挺进在北上的途中，有的走6路，有的走水路。这正是当年先帝率众北伐的路线。
然而，北进的度非常缓慢。
大军的主力先入淮河，由淮河向东航行，然后再由淮河进入泗水，再由泗水向北航行。由于这一年初夏缺少降雨，河湖水位下降，大军的船队只能艰难航行，在有些河段一日不过航行十里。直到七月，大军才到达须昌（兖州东平郡的治所，在今山东东平东须城镇西北），然后再由济水进入黄河，依次向西逼近魏之河南四镇：碻璈、滑台、虎牢和洛阳。四镇由东向西沿黄河南岸设置，碻璈最东，洛阳最西。
时间漫长，刘义隆在千里之外焦急地等待着。
大军兵临碻璈城下的时候，碻璈已成一座空城，魏的守军已于数日前撤归黄河以北。除了留下数千人戍守外，主帅到彦之率大军继续西进。途中也未遇什么强敌，只是在东平郡的委粟津，宋的前锋遭遇魏军数千余。猛将姚耸夫单骑冲突，应手破敌；魏军百人团聚，号叫围攻姚耸夫，姚耸夫举着长矛随宜接战，每一回合都斩敌数人。在转战的过程中，姚耸夫又瞥见领兵的魏将军，于是他丢下众人，策马大呼冲击，逼近敌帅，刚一接战就斩了敌帅。看着滚落在地的敌帅头颅，姚耸夫和宋军起初都未甚在意。等到被吓退到远处的魏军请求停战，他们才知道那敌帅是个大家伙：他竟然是魏主拓跋焘的叔父！魏军不得已用百匹马赎回了他的级。这大大地鼓舞了士气，也让那些前进的将士们有了足够的谈资。
七月十一日，魏滑台的守兵也弃城而去；
七月二十三日，魏虎牢、洛阳的守兵也相继弃城撤归黄河以北。
这样，沦陷八年的河南四镇就轻而易举地重归宋人。
宋军形势一派大好。
随即，到彦之分派司徒从事中郎朱修之戍守滑台，刚被任命为司州刺史的尹充戍守虎牢，建武将军杜骥戍守洛阳金墉城。到彦之率众进驻灵昌津（自洛阳西行不足百里处的古黄河渡口），然后又分兵戍守黄河南岸，一直向西直至潼关（在今陕西潼关北），绵延近千里。
不战而胜的捷报在通往京都建康的驿道上传递着，由北而南；
坐在宫中的刘义隆也在不断地派出由他身边人担任的中使带着调兵遣