谢安出生名门陈郡谢氏，父亲谢裒曾任太常卿，属于东晋士族。谢家人大多风流潇洒，被称为"谢家兰玉真门户""谢家子弟，衣冠磊落"，谢安年仅四岁时，便被桓彝称许，认为他"风神秀彻"，长大以后，不在王承之下。谢安十三岁时，声名就已经传到辽东，连当时才七岁的慕容垂都特地送来一对白狼眊作为礼物。谢安得到了当世王导以下几乎所有名士的推崇，因而一举一动都被世人仿效。谢安的声名越来越响，被推崇为江左"风流第一"，世人皆称"安石不肯出，将如苍生何?"
太和六年(公元371年)，桓温废司马奕，改立司马昱为帝，族诛陈郡殷氏、颍川庾氏两家三支士族，贬斥武陵王为庶人，实际控制了东晋的所有州府，声势如日中天。谢安与另外两家大士族——太原王氏和琅琊王氏的王坦之、王彪之等人联合，与之周旋，并于咸安元年(公元372年)七月简文帝病重之时，逼简文帝改写遗诏，阻止了简文帝打算将政权拱手让给桓温的打算。桓温得知以后，大怒，率军入京，欲"诛王谢，移晋鼎"，太后褚蒜子命谢安与王坦之去新亭迎接，王坦之慌乱不已，以至于在见到桓温以后倒持笏版，汗湿重衣;谢安却很镇定，不仅在临行前安慰王坦之说"晋祚存亡，在此一行"，并在见到桓温以后，从容就席，问桓温："安闻诸侯有道，守在四邻，明公何须壁后置人邪?"桓温笑答："正自不能不尔耳。"二人笑着谈了很久，一场大祸化解于无形。桓温后来病重，想让朝廷给他加九锡，让袁宏起草。谢安见了以后，总是借故修改，拖延时间，没几天，桓温病故，加九锡的事情也就不再被提起了。
桓温死了以后，谢安为了调和晋室与桓氏的矛盾而颇费苦心。宁康二年(公元374年)，谢安先以王坦之出领徐兖二州刺史而从桓氏取回徐州和兖州，然后又迫使桓温之弟桓冲出让扬州，转而任命其领荆州。
谢安自领扬州(非今日之扬州市)，终于达到"荆扬相衡，则天下平"的目的，并取得了桓氏的谅解与合作，建立起一个相对牢固的防御阵线，共同对付北方的前秦苻坚。元元年(376年)，孝武帝司马矅开始亲政，谢安升中书监、录尚书事，总揽朝政，陈郡谢氏成为东晋的最后一个"当轴士族"。同年，苻坚统一了中国北方，前秦与东晋的战争已经临近。当时的东晋，长江上游由桓氏掌握，下游则属于谢氏当政，谢安尽力调和桓谢两大家族关系，以为即将爆发的战争作准备。
太元二年(公元377年)，广陵缺乏良将防守，谢安不顾他人议论，极力举荐自己的侄子谢玄出任兖州刺史，镇守广陵，负责长江下游江北一线的军事防守。谢安则自己都督扬州、豫州、徐州、兖州、青州五州军事，总管长江下游。谢玄不负叔父重托，在广陵挑选良将，训练精兵，选拔了刘牢之、何谦等人，并训练出一支在当时的整个中国最具有战斗力的精兵——北府兵。
太元八年(公元383年)五月，桓冲倾10万荆州兵伐秦，以牵制秦军，减轻对下游的压力，苻坚派苻睿、慕容垂、姚苌和慕容暐等人迎战，自己亲率步兵60万，骑兵27万，以弟苻融为先锋，于八月大举南侵。谢安临危受命，以谢石为前线大都督，谢玄为先锋，并谢琰、桓伊等人，领8万兵马，分三路迎击秦军。十一月，谢玄遣刘牢之以5千精兵奇袭，取得洛涧大捷，秦军折损10名大将，5万主力。十二月，双方决战淝水，谢玄、谢琰和桓伊率领晋军7万战胜了苻坚和苻融所统率的前秦15万大军，并阵斩苻融。淝水之战以晋军的全面胜利告终。
淝水之战的巨大胜利，谢安的事先筹划功不可没。而且谢安从战前的"围棋赌墅"到战后的"小儿辈大破贼"，自始至终一直采取极为冷静的态度，对于稳定当时建康的人心起到了关键的作用。此次战争的前线将领也是谢家嫡系子弟的谢石谢玄谢琰等人，谢家的声望达到顶峰，引起了司马氏皇室的戒备，以至于淝水战功，竟然没有封赏，直到两年后的谢安死后，司马曜方才因淝水战功追封谢安以庐陵郡公。
太元九年(公元384年)八月，谢安起兵北伐。东路的谢玄领北府兵自广陵北上，一路收复了兖州青州司州豫州，中路和西路的桓氏则出兵攻克了鲁阳和洛阳，并收复了梁州和益州。至此，淝水之战前秦晋以淮河-汉水-长江一线为界的局面改成了以黄河为界，整个黄河以南地区重新归入了晋朝的版图。北伐节节胜利以后，司马氏和部分朝臣对谢安非常猜忌，世人也有怀疑谢安会像王莽那样篡位夺权。谢安"素退为业"，主动交出手上权力，于太元十年(公元385年)四月自请出镇广陵，都督北伐军事。不久，刘牢之于邺城被慕容垂击败，谢安不得不调整部署，将进攻转为调整以巩固黄河防线。
