周瑜病危，写信给孙权，推荐鲁肃代替自己。信中说：“当今天下，正值混乱多事，这正是我日夜忧心的事，愿陛下预先考虑尚未发生的事，然后才想到安逸享受。现在既然与曹操作对，刘备近在公安，边境附近的百姓尚未归附，应当用良将前往驻守镇抚。

鲁肃的智谋才略足以胜任，请求起用他来接替我。我死之日，也就没有牵挂的事了。”孙权采纳了周瑜的建议，当即任命鲁肃为奋武校尉，接替周瑜统领部队。周瑜私属部队四千多人，以及原来的奉邑四县，全都转归鲁肃所有。鲁肃开始时驻守江陵，后移兵下驻陆口。威望恩义，大行于众，部属增加万余人，被任命为汉昌太守、偏将军。

建安十九年，随孙权攻破皖城，改任横江将军。

在此之前，益州牧刘璋法度纲纪颓败废弛，周瑜、甘宁等人曾劝孙权借机攻取蜀地。孙权就此事征询刘备的意见，刘备心中有自己的打算，假意对孙权说：

“我与刘璋托名为皇族后裔，希望借助先人英灵，以匡救汉室。如今刘璋得罪了大家，我独自心内惊惧不安，不敢听说攻取蜀地的话语，希望您对他实行宽恕。如果这个请求没有得到答复，我当披散头发归隐山林。”

孙权答应了刘备的请求。然而，后来刘备却向西进军，图谋吞并刘璋，留关羽镇守荆州。孙权明白刘备的意图后，勃然大怒，骂道：““狡猾的东西竟敢耍弄诈术！”对刘备深为不满。

这时鲁肃与关羽邻界统兵，疆土犬牙交错，多次发生摩擦。鲁肃顾全大局，总是以友好的姿态安抚双方。刘备平定益州，孙权请刘备归还荆州中的长沙、零陵、桂阳三郡。刘备不肯。

孙权派吕蒙率军进取，长沙、桂阳二郡望风归附，唯有零陵太守郝普坚守不降。刘备得知，亲自引兵五万从成都赶回公安坐镇，派关羽率军三万争夺三郡。孙权也从秣陵进驻陆口，派鲁肃率领一万人屯守益阳，和关羽对抗。

鲁肃为了大局，邀请关羽相见，提出各自将兵马布置在百步以外，只有将军们各带单刀赴会。鲁肃做出决定后，他部下将领怕出变故，劝鲁肃不要轻蹈险地。鲁肃毫无畏惧，他说：“事到今日，应该把话说清。

刘备辜负国家，是非尚未论定。关羽又能怎么样呢？”毅然赴会。

会上，鲁肃数次指责关羽：“我们江东真心诚意将土地借给你们，是因为你们兵败远方而来，无有立足之地。现在已经得到益州，既然没有奉还荆州意思，那么就只要求你们归还三郡，而你们还不从命。”

鲁肃话音未落，荆州方面的一将说：“说到土地，只有仁德之人才能占有，哪来一家永远占住不放的道理！”鲁肃当即大声喝叱，辞色严厉。关羽此时也操刀而起，对那人说道：“这些自然是国家大事，他知道什么！”用眼光示意那人离去。

单刀会没有结果，双方僵持不下，战争一触即发。时曹操进攻汉中，刘备害怕失去益州，派人跟孙权讲和。双方议定，以湘水为界，平分荆州。江夏、长沙、桂阳三郡属孙权，南郡、武陵、零陵三郡属刘备。孙、刘休兵罢战。

建安二十二年，鲁肃病逝，享年四十六岁。孙权亲为举办丧事，并参加了他的葬礼。诸葛亮也为他举哀。