公元204年，孙权出兵讨伐黄祖。丹阳、豫章、庐陵三郡的山越趁机反叛。

吕蒙随军出征，与黄盖、韩当等人率兵镇守险要，担任了山越最为活跃地区的县令。之后遵照孙权的部署，以武力平定了本地区叛乱的山越族人，因功被任命为平北都尉。

4年后，吕蒙再次跟随孙权发兵进攻夏口。江夏太守黄祖下令用蒙冲战舰封锁了江水进入长江的入口，用大棕绳系到了巨石上来固定舰位，并在战舰上设置了1000多名士兵用弓弩进行交叉射击，封锁江面以阻止东吴的士兵通过。

在敢死队砍断棕绳后，吕蒙统率前锋部队身先士卒，亲自斩杀敌军将领，孙权乘胜水陆并进，包围了夏口。

黄祖最终被东吴骑兵所斩。此战孙权大获全胜，一举歼灭宿敌黄祖，占领了江夏地区。吕蒙也被评为此战的首功，晋升为中郎将。

公元208年，吕蒙跟随周瑜、程普等人在赤壁大破曹军，迫使曹军引军北归。之后又在周瑜夺取江陵的战斗中献策，劝周瑜派300人用木柴把山路截断，获得了敌军大量的战马，使曹军威风大减。

公元210年，周瑜病逝，鲁肃接任了周瑜的职务。当鲁肃途经吕蒙的驻地时，身为一代儒将的鲁肃认为吕蒙是武夫出身，便对吕蒙有着一丝轻视。

但在共谋战略时，鲁肃竟然被吕蒙对局势的分析感到无比震惊，不禁越席而起，亲切地拍着他的背赞叹道：“以你如今的才略，已经不再是吴下阿蒙了。“从此二人结为好友，关系很是密切。

公元213年，曹操亲率10万大军进攻孙权，在濡须口攻破了孙权部队在西江的营寨。吕蒙便跟随孙权统领7万士兵前往抵御。

曹操在战斗中，吕蒙多次献出奇计，均收获颇丰，还在统领军队方面令曹操大吃一惊。曹操遥望孙权的部队阵容威严，布防严密，于是感叹地说：“生子当如孙仲谋。“遂不敢轻易冒进。此时赶上长江汛期将至，孙权便写信劝曹操尽快撤兵。曹操也审时度势，选择了主动撤军。

一年后，孙权率军沿江而上进攻皖城。吕蒙认为制造工程设备和堆土成山来攻城需要花费大量的时间，到时候敌人的城防已经巩固完毕，援兵也必定会到来。

于是建议孙权应该趁三军士气高昂的时候从四面包抄发起进攻，然后趁大水未退的时候撤军。采纳了吕蒙的建议后，孙权命甘宁率领精锐士卒从拂晓发起猛攻，仅一顿饭的时间就攻破了城池。此战的胜利也对孙权控制江淮地域起到了重要的作用。

刘备占据荆州后派关羽镇守，孙权屡次求索，但均遭到了拒绝。

公元215年，孙权派吕蒙率2万兵士攻取沙长、零陵、桂阳三郡。沙长、桂阳二郡望风归附，唯有零陵太守郝普坚守不降。刘备见形势危急，令关羽率军前往争夺三郡。