公元年，东晋在对前秦的淝水之战取得胜利后，来自北方的压力暂时得到缓解。此前在大军压境、国家面临倾覆危难之时，全国上下尚能放下内部矛盾一致对外，而当敌国外患退去后，东晋的内部便开始呈现乱象。五斗米道的孙恩起事，拉开了东晋灭亡的序幕。坐镇长江上游荆州的桓玄（桓温之子）趁乱领兵攻入都城建康（今江苏南京），篡位称帝。此后不久，曾在淝水之战中发挥至关重要作用的北府兵将领刘裕等，在与建康毗邻相望的京口（今江苏镇江）起兵，击败桓玄后拥立晋安帝复位，自己把持了朝政大权。
刘裕出身士族，但其家族已经趋于没落，他完全是靠自己打拼、积累战功而赢得地位的。在平灭桓玄之乱后，刘裕先后北伐南燕、南平卢循（孙恩妹夫）之乱拯救京师、西灭巴蜀，最后收复潼关以东和黄河以南大片地区，在东晋一朝历史上可说功业盖世，前无古人，因此他的个人声望一时如日中天。义熙十四年（），他成为相国，加封为宋公，随后他杀安帝而另立恭帝，自己进爵为宋王。两年后，他便彻底代晋称帝，国号为宋，是为宋武帝，成为南朝第一个朝代刘宋的开基之主。
刘宋建立后，宋武帝鉴于东晋王室的孤弱，采取了加强皇权的措施，到其子文帝在位时，便出现了繁荣稳定的“元嘉之治”局面。刘宋初期的疆域版图，向北直到秦岭、黄河地区，是自东吴、东晋以来乃至整个六朝时期的南方政权中最为广大的。但由于北方的北魏国力也在不断增强，后来不仅夺回了黄河以南的州郡，还曾一度兵临长江。虽然刘宋的开局似乎不错，但因皇室内部斗争异常激烈，骨肉自相残杀殆尽，大权便逐渐落入禁军统领萧道成手中。公元年，萧道成篡位，建立南齐，是为齐高帝。刘宋共八帝，传60年（—）。
萧道成与刘裕出身相近，都属于南渡士族中地位较低的阶层。南齐一代，依旧重复着前朝刘宋的故事，皇族之间杀戮不已，而且宮闱混乱，种种行事之荒诞绝伦，几乎到了不近人情与令人难以置信的地步。公元年，南齐宗室远支萧衍自襄阳起兵，攻入建康后篡位自立，建立梁朝，是为梁武帝。南齐共七帝，仅传24年（—）。
梁武帝在位的48年，是南朝中一个较长的相对稳定时期。他吸取宋、齐两朝的教训，为政较为宽和，有效缓解了内外矛盾，改变了此前皇室宗亲争权夺势、残杀动荡的局面，而且自己厉行节俭、勤于政务、尊崇佛教、大兴儒学。在军队建设方面也取得很大成就，对外与北魏对峙，互有胜负，其间甚至一度攻入对方的都城洛阳。但是，尽管梁朝开局良好，最终却因用人不察而失败。梁武帝晚年，不顾朝臣反对，接纳了北方来降的将领侯景。孰料开门揖盗、引狼入室，侯景在降梁后次年（）便兴兵作乱，进攻建康（史称“侯景之乱”），梁武帝被困，病饿而死。之后侯景拥立简文帝，继而自己称帝。后梁武帝第七子攻灭侯景，在江陵（荆州）称帝，为梁元帝。此后武帝的子孙依然互相攻伐不已，给了北方可趁之机。公元年，西魏（北魏分裂为东魏、西魏）攻破江陵，杀死梁元帝。第二年大将陈霸先在建康拥立元帝之子为敬帝，两年后又废梁自立为帝，建立陈朝，是为陈武帝。梁朝共四帝，传56年（—）。
陈霸先出身寒微，在位仅两年便去世。经历了此前的一番大动乱，陈朝又无杰出的后继之辈，陈后主唯知沉湎酒色，故而只能苟全偏安。公元年，北方的隋朝建立，并于年大举发兵南征，次年即攻入建康，俘获陈后主，陈朝灭亡。陈朝共五帝，传33年（—）。至此，历经年的南朝时期宣告结束，而自东汉末年以来近年的分裂局面也得以终结，南北方重新归于一统。在陈朝灭亡将近年后，晚唐大诗人杜牧曾经游历到南朝故都金陵，在秦淮河畔，遥想当年陈后主的故事，有感而发，写下了《泊秦淮》这首名篇：“烟笼寒水月笼沙，夜泊秦淮近酒家。商女不知亡国恨，隔江犹唱后庭花。”比他稍晚的诗人韦庄，也在行经当年梁武帝困饿而死的台城时，触景生情，吟出了咏叹六朝史事的佳作：“江雨霏霏江草齐，六朝如梦鸟空啼。无情最是台城柳，依旧烟笼十里堤。”