晋室南渡，江南美丽的自然山水更吸引了士大夫们。当时盛行的玄学思潮把儒家的“名教”与道家的“自然”结合起来，引导士大夫们从自然山水中寻找人生的哲理与趣味。崇尚清淡之风也带来赞美山水隽语的发达(见《世说新语》)。玄言诗中亦出现山水佳句。经过长期的多方面的酝酿，终于产生出第一位山水诗人，这就是晋末宋初的谢灵运。

　　谢灵运长期优游名山胜境，写有大量的山水诗。其诗语言富丽精工，喜雕琢，追求形似。诗的结构往往是纪游式，末后总留有玄言诗的尾巴。他的诗往往是有句无篇。稍举一些诗句：“池塘生春草，园柳变鸣禽”之写园林;“野旷沙岸净，天高秋月明”之写秋;“明月照积雪，朔风劲且哀”之写冬;“林壑敛暝色，云霞收夕霏”之写暮色;“春晚绿野秀，岩高白云屯”之写春景。这些精美的诗句，如一幅幅精致的山水画。谢灵运确立了山水诗的地位。

　　随后，南齐诗人谢眺也写了一些清新流丽的山水诗篇，有些佳句：“余霞散成绮，澄江静如练”，“大江流日夜，客心悲未央”，“天际识归舟，云中辨江树”等。南朝梁代诗人何逊也有些写景名句：“露湿寒塘草，月映清淮流”，“野岸平沙合，连山远雾浮”，“岸花临水发，江燕绕樯飞”，“江暗雨欲来，浪白风初起”，“夜雨滴空阶，晓灯暗离室”。但他们的诗作都存在有句无篇的毛病。