北魏的南侵自刘裕弃关中以后，滑台、虎牢、洛阳等城邑也陆续被北魏夺去。河南虽失，可是那时拓跋氏北有柔然人的威胁，西有赫连氏这个强敌，因此还不敢放手南侵。北魏境内的各族人民，也不断起义，前仆后继，想推翻拓魏的统治。其后北魏消灭了赫连氏，并吞了关中地区，渐渐地统一了黄河流域。
元嘉二十二年(公元445年)，北地卢水胡人盖吴在杏城(今陕西黄陵西南)起义，团结在他周围的人民，有十余万之多，关中氏、羌、山胡等族纷起响应，河东薛氏一族三千余家，也都参加了这次起义。起义军声势浩大，震动关陇。次年，魏太武帝拓跋焘亲自率军镇压，才把这次轰轰烈烈的起义镇压下去。
盖吴在起义之初，曾上表宋文帝云:“臣以庸鄙，仗义因机， 乘寇虏天亡之期，藉二州思旧之愤。......伏愿陛下给一旅之众， 临河陕，赐臣威仪，兼给戎械。进可以压捍凶寇，覆其巢穴；退以宣国威武，镇御旧京。”第二次又上表云:“士庶.....倾首东望，仰希拯接。.....·虏主二月四日，倾资倒库，与臣连营。接刃交锋，无日不战，获贼过半，伏尸蔽野。伏愿特遣偏师，赐垂拯接。......遗民小大，咸蒙生造。”(《宋书·索虏传》)可见中原的起义军，对南朝援军期望之殷切。宋文帝只是给盖吴以安西将军、雍州刺史的空头官号；并且命令雍、梁二州屯兵境上，为盖吴声援。实际上并无一兵一卒去支援盖吴，坐失收复中原的时， 这样，只能等待北魏的入侵了。
盖吴的义军既然失败，柔然人对北魏的威胁，也因柔然主的新死而暂为缓和，拓跋焘就在元嘉二十七年，调动大军南下，进攻南朝。
拓跋焘自率步骑十万，进攻宋的悬瓠城(今河南汝南)，宋守军苦战却敌。这年七月，刘宋出动大军分水陆数路北伐，其主力在王玄谟统率下，进攻滑台，为魏军主力击败。刘宋另一支偏军由建威将军柳元景率领，用很少的兵力，出卢氏(今河南卢氏)， 得当地武装配合，如卢氏人“赵难驱率义徒以为众军乡导”(《宋书·柳元景传》),形成相当大的力量和声势。他们直出熊耳山(今河南卢氏东南)，连克弘农、陕县，进军潼关，势如破竹，斩魏洛州刺史张是连提，魏军死亡万余人。关中人民和四山各族人民，处处蜂起，响应宋军，但宋文帝因王玄谟主力溃败，所以命令柳元景退兵。
魏军号称百万，乘势分路南进。拓跋焘亲率大军攻彭城不下，渡淮直趋瓜步(今江苏六合东南)，“坏民庐舍，及伐苇为筏”， 扬言要渡江进攻建康。宋内外戒严，“丹阳统内，尽户发兵”。 “游逻上接于湖(今安徽当涂南)，下至蔡洲(今江苏南京市西南江中)，陈舰列营，周互江滨，自采石(今安徽马鞍山市西南采石矶)至于暨阳(今江苏江阴)六七百里”(《资治通鉴》宋文帝元嘉二十七年)，建立了巩固的防线。次年春，拓跋焘回军围攻盱眙， 盱眙军民奋勇抗击。魏军攻城三十日，死伤无数，积尸高与城齐；拓跋焘又怕归路被切断，方才退走。魏军在撤退时，进行大杀戮大破坏，“丁壮者即加斩截，婴儿贯于槊上，盘舞以为戏” (《资治通鉴》宋文帝元嘉二十八年)。当时人说:“虏之残害，古今未有，屠剥之苦，众所共见，其中幸者，不过驱还北国作奴婢耳。”(《资治通鉴》宋文帝元嘉二十七年)江北魏军“所过郡县，赤地无余”"(《资治通鉴》宋文帝元嘉二十八年)。《宋书·索虏传》 称:“喋喋黔首.......强者为转尸，弱者为系虏，自江、淮至于清、 济，户口数十万，自免湖泽者，百不一焉。村井空荒，无复鸣鸡吠犬。时岁唯暮春，桑麦始茂，故老遗氓，还号旧落。......至于乳燕赴时，衔泥靡托，一枝之间，连窠十数，春雨裁至，增巢已倾。......甚矣哉，覆败之至于此也。”南朝经此空前浩劫，国力是大大地削弱下来了。
自此，刘宋政府便把自己的防线，步步南撤，既由洛阳、滑台撤至淮北，到了明帝刘彧时代(公元469年)，淮水以北青、冀、 徐、兖四州及豫州淮水以西九郡，又先后被北魏夺去，于是防线复由准北撤至淮南。那时的“淮北士民”，虽是“力屈胡虏”，可是“南向之心，日夜以冀”(《南齐书·垣崇祖传》)。南朝的统治集团，却正在争权夺利，排演其相互残杀的丑剧，便把外敌完全放在一边了。