淝水之战前四年，东晋太元四年（379年），已经统一北方的前秦攻破江汉要镇襄阳，对东晋虎视眈眈，在这历史的紧要关头，谢安不畏众人疑难，勇敢提拔自己的侄子谢玄为将，谢玄则不负众望，训练出了此后击溃前秦，并深刻影响了东晋南北朝历史走向的“北府兵”。
作为北府兵的创建者，陈郡谢氏家族的辉煌时刻即将来临。
襄阳沦陷后，面对前秦军队的南下，谢玄先是指挥北府兵击溃前秦军队，随后又在四年后的淝水之战中（383年），以8万北府兵大破前秦的百万大军。
当前线大捷的消息传来时，作为淝水之战的总指挥，谢安当时正与客人在下棋，看过战报后，谢安“了无喜色”继续下棋，当客人问起战况如何时，谢安才淡淡说了一句：“小儿辈遂已破贼。”
强忍着心中狂喜的谢安，在下棋后回到家中时，由于太过兴奋用力，在迈过门槛的时候竟然将脚下木屐的齿牙折断，他自己却没有任何感觉，“其矫情镇物如此”。
对于陈郡谢氏来说，公元383年的淝水之战，是整个谢氏家族的巅峰时刻，战后，谢玄继续带兵北伐，将自从五胡乱华以后退居淮河以南的汉人江山推进到黄河南岸，东晋国势一度大振，而谢安家族中则先后有四人因功被封为公爵，分别是谢安被封为庐陵郡公、谢安的弟弟谢石被封为南康公、谢安的侄子谢玄被封为康乐公、谢安的儿子谢琰被封为望蔡公，至此，“一门四公”的陈郡谢氏历经百年艰辛，终于一跃成为与琅琊王氏并肩齐名的世家大族，权势在东晋朝中一时无二。