公元439年，在北魏統(tǒng)一了北方后，打了勝仗的北魏軍事機(jī)器根本無法緊急剎車。班賜制的性質(zhì)決定了掠奪與戰(zhàn)功是鮮卑武士的利益與光榮的來源，甚至內(nèi)、外朝臣都能從中得到好處，因此拓跋鐵騎的主要矛頭必然會(huì)指向南朝的劉宋政權(quán)。當(dāng)然一塊接著一塊新占領(lǐng)的土地需要整合，各種反抗需要平息，更北邊的柔然也要給予進(jìn)一步的打擊。
在宋元嘉七年（430年）南方出兵不利后，曾有一段平靜的歲月。但大規(guī)模南北戰(zhàn)事在公元450年又開始了。此前雙方還有著遣使往來，也時(shí)有沖突，但一邊是無暇南顧，另一邊是因?yàn)?馬步不敵，為日已久"，所以雙方維持著一種非正式的和平。如此局面的打破則先是劉宋一方。當(dāng)時(shí)宋文帝經(jīng)過二十幾年的文治，積蓄起一定的實(shí)力，想要建立一些武功也是很自然的事。他提出北伐有兩條主要理由∶一是"北方苦虜虐政，義徒并起"；二是"今夏水浩汗，河道流通，沉舟北下，堿磁必走，滑臺(tái)小戍，易可覆拔"，意思是水大有利于南方的水軍水運(yùn)。當(dāng)時(shí)沈慶之、劉康祖等武將反對(duì)，一些被稱為"白面書生"的文臣贊同，出兵北伐就這樣決定了。此前，當(dāng)年三月，魏軍攻懸瓠40余日不下，而城內(nèi)宋軍不滿千人，這也助長(zhǎng)了南方的士氣。
于是該年七月，宋文帝以寧朔將軍王玄謨率軍北伐，太尉江夏王劉義恭出彭城，總統(tǒng)諸軍。堿磁魏軍棄城走，但隨著王玄謨久攻滑臺(tái)不克后，魏軍就開始反攻。當(dāng)年九月，北魏太武帝興師南伐，十月至枋頭，另遣五千騎截?cái)嗤跣兒舐?。王玄謨大懼，棄軍而走，宋軍隨即潰散。魏軍斬首萬余級(jí)，淮南皆降。至十二月，魏太武帝率大眾至瓜步，聲稱要渡江統(tǒng)一中國(guó)，南朝震懼，宋文帝只得求和。當(dāng)時(shí)，拓跋軍隊(duì)中的大多數(shù)是第一次見到如此浩蕩遼闊的江水，一時(shí)之間難作渡江之計(jì)，而北魏軍隊(duì)在作戰(zhàn)過程中也損失頗大，且后勤供應(yīng)也使魏軍難以為繼，無法久駐，只能回撤。
這次大戰(zhàn)是進(jìn)入南北朝時(shí)期后雙方的第一次大戰(zhàn)，甚至可以說是南北朝最大一次的南北大戰(zhàn)。這是因?yàn)殡p方在當(dāng)時(shí)都處于南北朝時(shí)段內(nèi)最強(qiáng)盛的時(shí)候。這次戰(zhàn)役證明雙方暫時(shí)都沒有能力吃掉對(duì)方，統(tǒng)一中國(guó)，哪怕是以前一直所向披靡的鮮卑鐵騎，在河道縱橫的江淮之間也難以舒展，因此也造就了以后大部分時(shí)間里的南北和平。由于該戰(zhàn)基本上是在南朝的國(guó)土上進(jìn)行，兩淮諸州所受破壞尤其嚴(yán)重，決定了以后南北對(duì)峙中南方稍弱的局面。
到了獻(xiàn)文帝拓跋弘時(shí)，劉宋的一次變故使南北之間力量對(duì)抗的天平向大大有利于北魏方面傾斜。公元465 年，宋的湘東王劉彧通過一場(chǎng)宮廷政變廢除了小皇帝劉子業(yè)而登基，嗣后又平息了帶兵在江州的晉安王劉子勛反抗，并把宋孝武帝之子幾乎殺盡。由于當(dāng)時(shí)有相當(dāng)一批文武官員是站在劉子勛一邊的，劉子勛失敗后，有的官員，如徐州刺史薛安都、兗州刺史畢敬眾、司州刺史常珍奇等舉地投魏。劉彧遣張永、沈攸之帶兵討伐薛安都等，北魏則以鎮(zhèn)南大將軍尉元引兵救援。尉元絕南軍糧運(yùn)，獲其輜重。張永等棄城夜遁。魏軍則南北奮擊，大破于呂梁之東。斬首數(shù)萬級(jí)，追北六十余里，死者相枕，手足凍斷者十八九。在隨后的一系列戰(zhàn)斗中，北魏大獲全勝，南朝元?dú)獯髠?，失淮北四州及豫州淮西之地。南北的分界線大體上南移至淮河一線，南朝顯得更加窘迫了。
這次青、徐諸州的易手，事起突然。由于宋明帝劉彧皇位得手后，處置不當(dāng)，不能敞懷撫降，致使邊將屢叛。而薛安都、崔道固等人之降魏事出無奈，當(dāng)?shù)氐氖棵窀荒芙邮芤壮氖聦?shí)，如汝南、新蔡等淮西七郡多不愿屬魏，連營(yíng)南奔。因此對(duì)北魏來說，在趁機(jī)吞并了一大塊土地后，如何牢固地長(zhǎng)期占有是一個(gè)大問題。于是北魏從兩方面著手，一是采取安撫政策，二是將當(dāng)?shù)氐氖客缽?qiáng)以及降官遷至平城的京畿地區(qū)，設(shè)"平齊郡"以置之。
平齊郡的設(shè)立是魏初將被征服土地上一部分民眾遷至京畿為新民政策之延續(xù)，但它和先前所設(shè)的平?jīng)隹ひ粯?，有了新的變化。平齊郡情況是由青、齊人士為主體，立平齊郡與平城西北北新城，以崔道固為太守。因此平齊民是來自同一地方，有著同一淵源的人們。他們遷徙至京畿后，被挪來挪去，實(shí)際上是把他們當(dāng)作一個(gè)部落來安置，這也是和新民屬于分部制的歸屬相符。然而平齊郡立于皇興三年（469年），其時(shí)已在"太安三年（457年）五月，以諸部護(hù)軍各為太守"之后，也就是說當(dāng)時(shí)分部制下已按州郡編制，所以才有平齊郡這樣的形式。太和改革時(shí)，隨著分部制的取消，平齊郡也就消失了。
還要指出的是，平齊民雖然也是屬于所謂"新民"一類，但平齊郡之設(shè)則主要不是為了讓這些新徙民到京畿來計(jì)口受田，供養(yǎng)京師的。魏得青、齊諸州的過程中，一些劉宋的降官，如崔道固、沈文秀等都有悔心和反復(fù)，地方的士族當(dāng)然也不愿意接受被視為胡虜者所統(tǒng)治。為了免除這些地方勢(shì)力以后有可能乘機(jī)興風(fēng)作浪，北魏早有效仿秦始皇遷六國(guó)豪杰于關(guān)內(nèi)之舉，因此將這些降官土望及其家族徙至京師平城附近，就近控制，而免除青、徐諸州之隱患，在政治上是很高明的。