升平三年，谢万与北中郎将郗昙兵分两路，北伐前燕。谢万在北伐时不能抚慰将士，又误认为敌军抵达，导致手下士卒惊扰奔溃，谢万也单骑狼狈逃还，军士看在谢安的份上才没有杀他(一说此时谢安并不在谢万军中)。不久后，谢万被免为庶人，整个谢家都被大家当作了笑柄。此事使谢氏的权势受到了很大威胁，谢安自此才开始有做官的志趣，他当时已经四十多岁了。
升平四年(360年)，谢安应征西大将军桓温之邀担任他帐下的司马，谢安从新亭出发，百官都为他送行，御史中丞高崧对他开玩笑说:“足下屡次违背朝廷旨意，高卧东山，众人常常议论说，谢安石不肯出山做官，将怎样面对江东百姓!而今江东百姓将怎样面对出山做官的谢安石呢!“谢安深有愧色。他到桓温的府第，桓温十分高兴，二人畅谈生平经历，欢笑终日。离开后，桓温对左右说:“你们是否见过我有这样的客人?“后来，桓温去谢安的住处，正碰上谢安整理头发。谢安性情迟缓，许久才理罢，让侍从取来头巾。桓温制止说:“让司马戴好帽子再相见。“桓温就是如此器重谢安。
升平五年(361年)，在桓温即将北征时，谢万病逝，谢安乘机投书请求奔丧，离开了桓温。不久，被任命为吴兴太守，他在任上声誉一般，但离开后便为众人所怀念。其后被征召入朝，担任侍中，又升任吏部尚书、中护军。
小花觉得这个时候的谢安才像一个男人，一个勇于挑起家族希望和责任的男人。
咸安元年(371年)，桓温在北伐时于枋头惨败。为了重立威名，桓温听从心腹郗超的建议，废黜了海西公司马奕，另立丞相司马昱为帝，即晋简文帝。
咸安二年(372年)，即位不到一年的司马昱因受制于桓温而忧愤非常，以致病重，桓温上疏举荐谢安接受遗诏。七月二十八日(9月12日)，司马昱驾崩。
宁康元年(373年)，桓温入京朝见孝武帝司马曜，太后褚蒜子命谢安及侍中王坦之到新亭迎接。当时，建康城里人心浮动，有人说桓温要杀王坦之、谢安，晋室的天下要转落他人之手。王坦之非常害怕，谢安却神色不变，说:“晋室的存亡，就取决于此行。“桓温抵达后，百官夹道叩拜。桓温部署重兵守卫，接待百官，当时有官位声望的人都惊慌失色。王坦之汗流浃背，连手版都拿倒了。只有谢安从容就座，他坐定以后，对桓温说:“我听说诸侯有道，守卫在四邻，明公哪里用得着在墙壁后面安置人呀!“桓温笑着说:“正是由于不能不这样做。“于是就命令左右的人让他们撤走，与谢安笑谈良久。由于谢安的机智和镇定，桓温始终没敢对二人下手，不久就退回了姑孰。王坦之当初与谢安齐名，众人至此才分出二人的优劣。
当时孝武帝年幼力弱，在外又有强臣，谢安与王坦之竭尽忠诚辅佐护卫，最终使晋室得以安稳。同年三月，桓温病重，暗示朝廷对他加九锡，让袁宏起草奏表。谢安见后，动手修改原稿，十多天还未改好，等桓温一死，加九锡之事因此搁置。
桓温死后两个月，谢安升任尚书仆射，总领吏部事务，加后将军，与尚书令王彪之一起执掌朝政。这个时候的他，已经算是进入了最高层，特德政治地位甚至于超过了他的父亲。
太元元年(376年)，谢安打算让外戚王蕴出镇，于是让桓温之弟桓冲解任徐州刺史，由王蕴接任，朝廷命谢安总领中书事务。为了缓和矛盾、稳定政局，谢安实行了着眼于长远、以和谐安定为重的执政方针。当时桓冲也深明大义，认为自己的德望不及谢安，心甘情愿地以镇守四方为己任。谢安也用桓冲都督徐、豫、兖、青、扬五州诸军事和徐州刺史，镇守京口，后又转任都督七州诸军事，兼任荆州刺史。他对桓冲虽有猜忌，但总体还是达到了“荆扬相衡，则天下平“的目的，共同对付北方的前秦政权。谢安心存仁义，辅助朝廷，劝导百官，即使是会稽王司马道子也依赖于谢安的辅助调和。当时前秦侵犯边境，告急文书频频传来，梁、益等州先后失陷。他面对危机，镇定自若，作长久打算，以宽仁安定内外。广行德政，百官同心同德，不计小过，专心国事，恩威流布广远，当时人赞扬谢安，将他比作王导，并认为他在文雅方面则更胜王导一筹。
当时，建康的宫殿毁坏，谢安打算整修宫殿。王彪之等人以外敌入侵为由谏阻谢安，谢安不听，竟独自决定修宫。宫室设计，都依照天象，合符北极星的方位，而役夫也没有什么怨恨。
同年，谢安兼任扬州刺史，朝廷允许谢安可带甲仗百人入殿。当时，孝武帝开始亲政，升谢安为中书监、骠骑将军、录尚书事，谢安坚决辞让了骠骑将军之职。当时天象失常，大旱连年，谢安上书主张复兴衰败灭亡的侯国和贵族世家，寻找晋初开国功臣的后代加以封赏。
谢家就是大户望族，给这些人家恢复政治地位，也等于给谢家加重政治砝码。谢家和这些人家这么多年来盘根错节，已经接为了联盟。他为这些人家求情，其实也是为了他自己和自己的家族。他的行为不光为了国家，更是为了他自己，所以他并不是一个一心为公的人。
太元二年(377年)七月，朝廷加谢安为司徒，他所统辖的后军文武官员都配上高级府第，谢安辞让不受。朝廷又加任谢安为侍中、都督扬、豫、徐、兖、青五州及幽州的燕国诸军事、假节。当时，前秦在其君主苻坚的治理下日益强盛，晋军在与前秦的交战中处于劣势。同年，因广陵缺乏良将防守，谢安便不顾他人议论，极力举荐自己的侄子谢玄出任兖州刺史，镇守广陵，负责长江下游江北一线的军事防守。谢安则自己都督扬、豫、徐、兖、青五州军事，总管长江下游。谢玄不负叔父重托，在广陵挑选良将，训练精兵，选拔了刘牢之、何谦等人，并训练出了北府兵。
太元三年(378年)，前秦征南大将军苻丕率步兵、骑兵七万人进攻襄阳。苻坚又另派十万多人，分三路合围襄阳。襄阳守将朱序死守近一年。
太元四年(379年)，襄阳城破，朱序被俘。苻坚又派彭超围攻彭城，秦晋淮南之战爆发。谢安在建康布防，又令谢玄率五万北府兵，自广陵起兵应敌。谢玄四战四胜，全歼秦军。
太元五年(380年)五月，谢安因功被任命为卫将军、开府仪同三司，进封建昌县公。
太元八年，苻坚率领着号称百万的大军南下，志在吞灭东晋，统一天下。当时军情危急，建康一片震恐，可是谢安依旧镇定自若，以征讨大都督的身份负责军事，并派谢石、谢玄、谢琰和桓伊等率兵八万前去抵御。谢玄手下的北府兵虽然勇猛。但是前秦的兵力是东晋的十倍多，谢玄心里到底有点紧张。出发之前，谢玄特地到谢安家去告别，请示一下这个仗怎么打。但谢安神情泰然，毫无惧色，回答道:“朝廷已另有安排。“过后默默不语。谢玄不敢再问，便派好友张玄再去请示。谢安于是驾车去山中别墅，与亲朋好友聚会，然后才与张玄坐下来下围棋赌别墅。谢安平常棋艺不及张玄，这一天张玄心慌，反而败给了谢安。谢安回头对外甥羊昙说:“别墅给你啦。“说罢便登山游玩，到晚上才返回，把谢石、谢玄等将领，都召集起来，当面交代机宜事务。
当时，桓冲在荆州听说形势危急，打算专门拨出三千精兵到建康来保卫。谢安对派来的将士说:“我这儿已经安排好了，你们还是回去加强西面的防守吧!“将士回到荆州告诉桓冲，桓冲很担心。他对将士说:“谢公的气度确实叫人钦佩，但不懂得打仗。眼看敌人就要到了，他还那样悠闲自在:兵力那么少，又派一些没经验的年青人去指挥。我看我们都要失败被俘了。“
同年十一月，谢玄遣部将刘牢之以五千精兵奇袭，取得洛涧大捷。十二月，双方决战淝水，谢玄、谢琰和桓伊率领晋军七万战胜了苻坚和苻融所统率的前秦十五万大军，并阵斩苻融。淝水之战以晋军的全面胜利告终。
当晋军在淝水之战中大败前秦的捷报送到时，谢安正在与客人下棋。他看完捷报，便放在座位旁，不动声色地继续下棋。客人憋不住问他，谢安淡淡地说:“没什么，孩子们已经打败敌人了。“直到下完了棋，客人告辞以后，谢安才抑制不住心头的喜悦，舞跃入室，把木屐底上的屐齿都碰断了。淝水之战的胜利，使谢安的声望达到了顶点。以总统诸军之功，进拜太保。
听到这里的小花，心里不由得一震。这个老祖先要倒霉了。飞鸟尽良弓藏，狡兔死走狗烹。这是小花一个小女孩子都知道的道理，难道谢安这个老江湖会不知道？他的功劳太大了，大到了朝廷和皇帝封无可封的地步，他当然会成为朝廷或者是皇帝下一个下手目标了。