桓玄的心腹私下问刘裕说：“桓王功德隆重，朝廷如今孱弱，所有人都说皇上应该禅让给他，您认为如何？”刘裕坚定地说道：“桓王的父亲桓温本就是拯救国家的英杰，再加上桓王自己的功业，早就应该行禅让之事。”桓玄得知后十分开心。然而其实刘裕已经有了除掉他的念头，只是没有一个合适的理由。

南燕有位见识卓越的谋臣向慕容德献策道：“现在晋国朝廷衰弱，将领桓玄作乱，上下离心离德，如果我们派遣大军前去讨伐，他们必然瓦解。如果我们能趁机取得江东，就不用再担心北边的魏国与西边的秦国了。如果失去了这次机会，等到晋国的其他豪杰消灭桓玄统一内部，我们不只得不到建康，反而可能被他们所灭。”当时南燕拥有步兵三十七万，骑兵五万，完全有能力向南进攻，然而公卿大臣们却认为桓玄势头正盛，极力阻止，最终搁浅了这个计划。

403年11月庚辰日（21日），晋安帝司马德宗正式禅位于桓玄。12月壬辰日（3日），桓玄正式登上帝位，由于桓氏的领地在荆州之楚地，所以建国名为“楚国”。

桓玄自从登上皇位后，心里常常感到不安。他进入皇宫那天，刚坐上皇帝的宝座就塌陷了，弄得群臣脸色都变了。不久之后的一个夜晚又出现了洪水，波涛卷入石头城，冲走了很多百姓，弄得人心惶惶。桓玄得知后，害怕地说：“这是有人想要作乱的征兆！”桓玄本性严苛，喜欢卖弄聪明，当政之后更是昏庸荒淫，喜欢大兴土木，四处游猎，使得朝纲变得十分混乱，想要叛乱的人越来越多。

桓玄的皇后很有智慧，又懂得看人，她对桓玄说：“刘裕走路的时候如龙行虎步，眼光傲视一切，这样的人终究不会屈居人下，你应早日铲除。”桓玄不同意道：“我现在正想仰仗他的力量平定中原，杀了他就没有可用的将领了。”

刘牢之的外甥何无忌找到刘裕，劝他共同起兵讨伐桓玄，于是二人暗中乘船返回京口开始谋划。之后何无忌又前去劝说另个一北府军的将领刘毅，对方满口答应：“刘裕是我见过的非贵族门阀出身中最为英雄的人，定能办成大事！”

当初，有人向桓玄推荐了文臣孟昶（g），结果因为有个和他关系不好之人屡次进献谗言，导致他最终未被重用。心灰意冷的孟昶返回京口后，刘裕特意上门拜访，对他说：“之前的天下是高门大户的天下，只有贵族门阀出来的子弟才能被重用，但如今我们可以一同创造一个新的、属于草莽的天下，谁说平民百姓中就出不了英雄？”

于是刘裕、何无忌、刘毅、孟昶等人暗中谋划准备起兵，就连桓玄的僚属——诸葛长民也背叛他加入了进来。诸葛长民有文武才干，但品行不端，由于贪污被罢免官职后怀恨在心，就投靠了刘裕。

之后诸葛长民作为内应杀死了长官，夺取历阳（安徽）接应刘裕，刘毅和孟昶也发动政变杀死了桓玄的亲信，占据广陵（江苏）牵制防守。

404年2月乙卯日（27日），时年41岁的刘裕借口外出打猎，与何无忌集结了一百多个手下，突然斩杀了桓玄在京口的亲信，然后召集文武僚佐对他们说道：“我等奉密诏诛灭桓氏叛党，各位都是晋国臣子，应该知道自己接下来应该怎么做！”于是众人全部散去，没有加以反抗，刘裕成功夺取了京口的兵权。

刘裕问何无忌说：“我现在急需一个懂得处理政务的文官辅佐，去哪里寻找？”何无忌说：“没有人比刘穆之更合适。”刘裕大喜，立刻派人前去传召。刘穆之正在家中酣睡，听到喧闹声就走上了街，正巧碰上使者。结果对方还没开口，刘穆之就将自己的布衣撕碎改换为作战用的戎服，展现出了料事如神的实力。于是刘裕终于找到了自己的“张宾”和“王猛”，虽然才华比起他们还是差些。

桓玄听说刘裕起兵后忧心如焚，经常对左右说：“刘裕一代雄才，加上刘牢之的外甥何无忌与豪爽的刘毅，这几人凑到一起实在让人无法轻视。”有人劝他迅速带兵前去平叛，桓玄却认为刘裕的兵马一向骁勇，自己万一战败对方就会士气大振，到那时更难对付，不如按兵不动等对方来攻，待他们疲敝了再出击。

不久后，刘裕的军队从京口出发，与桓玄的精锐在江上相遇。敌军领兵的是桓玄最骁勇的干将，然而刘裕首当其中，手握大刀大喊着第一个冲杀上去，对方被他的气势所慑，很快就被斩首。其余将领继续死战，将刘裕团团包围了好几重。刘裕只得背靠大树独自作战，再次以少敌多，桓玄的部将见他陷入危机，不禁挑衅道：“你想要什么样的死法？”结果刘裕怒目圆睁，挥刀不停砍杀，敌军见怎么打也打不败他，都开始恐惧起来，人人畏缩不前，竟让刘裕一直支撑到了援军到来。刘裕趁势率军反击，大获全胜——刘裕作战以“刚猛”著称，无论是最早侦查时一人大战敌军主力，还是讨伐孙恩，再到这次出征桓玄，敌人基本都是被他不怕死的样子吓跑的。

获胜的刘裕继续进军，他知道自己兵力不多，便派遣一些老弱登上附近的高山，在上面广布旗帜作为疑兵。而敌方守军本就是北府兵出身，知道刘裕的可怕，看到漫山遍野都是他的旗帜后，以为有千军万马，所以根本没有斗志。之后刘裕和刘毅兵分两路，各自率军突袭，刘裕更是身先士卒，在他的感染下，手下将士也都拼死作战，无不以一当百，很快就突破了包围圈，直奔都城建康，呼喊之声震动天地，就连城内都能听得到。

桓玄因刘裕百战百胜而惶恐不安，召集了一众方士为自己卜算吉凶——当一个人对理性和现实都没有办法时，往往只能将希望寄托于玄学。经过一番思想斗争后，桓玄终于得出了一个结论——好死不如赖活着！于是他暗中命令亲信备好船只，带上一众家小悄悄逃离，途中遇到了自己的部下，对方拽着桓玄不让他走：“咱们现在还有八百名弓弩手，都是曾受桓氏旧恩的人，尚可做最后一搏，不战而逃只会让您死无葬身之地。”桓玄没有说话，只是用手指向天空，示意天要亡他，然后还是逃了。

刘裕成功进入建康，将桓温的神像灵位尽数焚毁，并屠灭了还在城中的桓氏宗族，然后派兵前去追杀桓玄。由于不擅长处理政事，刘裕便将各种事务全都交给了刘穆之，刘穆之也尽心尽力，将一切治理得井井有条。东晋的政治一向松散，朝廷毫无纲纪可言，世家权贵更是常常欺凌百姓，刘穆之针对此情况一一加以修整。刘裕十分欣赏他的才干，逐渐把他当作最为亲近的心腹，事事都要向他请教，然后以身作则，带头遵从法令。百官看到二人的面貌，也都不敢托大，开始努力地各司其职。于是刘裕和刘穆之这对组合上任不到十天，就改变了整个国家的风俗面貌。

而桓玄反倒在逃亡的路上开始了文学生涯，撰写了《起居注》，在里面详细描述了讨伐刘裕的事情，认为自己的分析判断和谋略施行都没有问题，失败的原因在于各方军队违背了他的指挥调度。他一直沉浸于自己的创作，根本没空与下属商量军务，就这样一路逃回了桓氏的老巢江陵（湖北）。之后桓玄在自己的腹地荆州大肆征兵，不到一个月就拥有了两万新兵，然而手下那些将领因为他不战而逃，更加不服从号令。

刘裕自然不会给桓玄东山再起的机会，立刻派遣刘毅和何无忌带兵前去讨伐。刘毅的军队还不到一万人，连桓玄的一半都赶不上，兵力悬殊之下将士们都十分害怕。然而桓玄的内心却更为胆怯，作战时常偷偷将小船停在旁边，以做好随时逃亡的准备，所以他的军队也都没有什么斗志。刘毅趁机放火烧毁了桓玄的粮草和军械，然后全军出击大败了他。

桓玄部众尽皆溃散，只得自己驾着小船逃走，结果在途中又碰上了前晋朝的臣子。交战之下，对方乱箭齐发，桓玄宠幸的两个妃子冒死用身体为他抵挡，双双殒命。而逃过一劫的桓玄最终也逃难被擒获的命运，然后送往建康斩首，建国不到半年的“桓楚”宣告灭亡。

临死前，桓玄对着行刑之人怒吼道：“凭你也敢谋害天子！”——算是为桓氏一族始终求而不得的帝王梦画上了句号。