周瑜夺取江陵，先派甘宁袭取上游的夷陵城(今湖北宜昌)，对江陵形成侧背威胁。于是，曹仁分兵围攻甘宁，夺回夷陵。甘宁向周瑜求援，诸将担心兵少，如救援夷陵，则造成江陵空虚。吕蒙对周瑜、程普说：“留凌公绩，蒙与君行，解围释急，势亦不久，蒙保公绩能十日守也”接着又献策，劝周瑜派三百人用木柴把本来险峻的山路截断，当敌人逃跑时，我方就可获得他们的匹。周瑜采纳了他的建议，亲率主力驰援夷陵，大破曹军于夷陵城下，所杀过半。曹军乘夜逃走，途经木柴堵的险路，无奈，骑者皆弃徒行。周瑜、吕蒙驱兵追赶截击，获得战300匹，军威大振。随即回师渡江，军北岸，构筑营垒，向江陵发起攻。此时，孙权为策应周瑜攻势，派兵包围合(今安徽合)。曹仁由于孤军无援，在近一年的战中屡战失利，损失甚重，遂被迫放弃江陵城，退往荆州(今湖北襄樊)。周瑜占领江陵，被孙权任命为南郡太守，控制了长江中游地带。吕蒙因功被任命为偏将军，兼任寻令。

建安十五年(210年)，周瑜病死，鲁肃接任。鲁肃到陆，途经吕蒙驻地。鲁肃为一代儒将，认为吕蒙是武夫，有些轻视他。有对鲁肃：“吕将军功名日显，不可以故意待也，君宜顾之”鲁肃遂见吕蒙。酒到酣，吕蒙问鲁肃：“君受重任，与关羽为邻，将何计略以备不虞？”鲁肃仓猝回答说：“临时施宜。”吕蒙说：“今东西虽为一家，而关羽实熊虎也，计安可不豫定？”于是，吕蒙详尽地分析当时的利害。鲁肃闻后，大惊，越席而起，靠近吕蒙，亲切地拍着他的背，赞叹：“吕明，吾不知卿才略所及乃至于此也”还说：“卿今者才略，非复吴下阿蒙！”吕蒙说：“士别三日，即更刮目相待，大兄何见事之晚乎”！从此，二人结为好友，过从甚密。

固定舰位，上有千余人用弓弩，封锁江面，吴军攻受阻。孙权命偏将军董袭、司凌统各率百人敢死队，穿重铠，乘大船冲抵蒙冲舰旁，董袭挥刀砍断棕绳，战舰顺飘，孙权军遂溯而。黄祖见孙权兵来，黄祖急派军都督陈就率兵反击，吕蒙统率前锋队，先战阵，亲自斩杀陈就。孙军乘胜陆并，包围夏城。孙权督军猛攻，克其城，并屠之。黄祖只逃窜，被骑士冯则追斩。此战，孙权大获全胜，一举歼灭宿敌黄祖，占领江夏地区。战后论功，孙权认为：“事之克，由陈就先获也”任命吕蒙为横野中郎将，并赐钱千万。

一次，孙权对吕蒙说：“卿今当涂掌事，不可不学。”吕蒙推脱军务繁多，没有时间。孙权说：“权曰：“孤岂卿治经为博士邪！但当涉猎，见往事耳。卿言多务，孰若孤！孤常读书，自以为大有所益”吕蒙乃悟，开始学习，日积月累，他读的书，超过了宿儒耆旧。