在关羽尚未斩杀颜良之前，曹操非常欣赏关羽的为人，为了知道关羽有没有久留的心意，叫张辽以私人感情来询问关羽。关羽对张辽叹息道：“我知道曹公对我的厚爱，但我受刘备将军的厚恩，发誓共死，不可背弃。我终不会留下，在为曹公立下功劳后我便会离去。”张辽担心，自己若是如实汇报，可能会导致曹操杀关羽。于是，张辽叹息良久，终于意识到曹操是君父，自己是臣子，不能因为自己和关羽的兄弟情谊就放弃职责。最终，张辽向曹操如实汇报了关羽的心意。曹操因此称赞关羽：“事君不忘其本，天下义士也。”曹操又让张辽揣度一下关羽何时离开。张辽深知关羽是知恩图报之人，于是，为关羽担保：“羽受公恩，必立效报公而后去也。”曹操知道关羽会离去，反而重加赏赐，想要留住他。但后来，关羽为曹军斩杀了颜良，于是，关羽尽封曹操的赏赐，留书告辞，向北，去袁绍军中，回到刘备身边。曹操左右欲追杀之，不过曹操认为各为其主而阻止。
后来，民间文化把关羽此举叫做“千里走单骑”。
镇守荆州
刘备在得到诸葛亮后，越来越器重诸葛亮。关羽、张飞对此事感到不悦，刘备解释道：“我得到了孔明，就像鱼得到了水，希望诸君不要再说了。”关羽、张飞于是停止了抱怨。
建安十三年（208年），刘备投靠刘表，屯兵于新野。曹操率领大军南下，刘备南逃，另遣关羽乘数百艘船驶向江陵会合，但刘备于途中当阳（今湖北省宜昌市）长坂坡被曹操军追至，幸而关羽驶至汉津，一同乘船至夏口。
刘备联合孙权击败曹操后，曹操留曹仁等防守荆州。于是，刘备又与孙权大将周瑜夹攻曹仁，命关羽绝北道。后来，刘备又向南攻取荆州南部四郡（长沙、零陵、武陵、桂阳）。关羽被拜为元勋，受封襄阳太守、荡寇将军。此时襄阳实为曹操势力范围，由乐进驻守，所以关羽驻于江北。在此期间，关羽重修了江陵城。
建安十六年（211年），刘备入蜀助刘璋防御张鲁，张飞、赵云、诸葛亮与关羽共守荆州。
建安十八年（213年），刘备与刘璋决裂。
建安十九年（214年），在刘备攻打雒城时，军师庞统中流矢身亡，刘备乃召张飞、赵云、诸葛亮入川支援。关羽驻守荆州。刘备平定蜀地后，以关羽董督荆州事，[22]授权掌管荆州地区刘备控制的部分，包括荆州南部四郡和从东吴借来的南郡治所江陵和附近的公安，关羽事实上镇守荆州五郡（南郡、长沙郡、零陵郡、武陵郡、桂阳郡）。又对诸葛亮、法正、张飞、关羽四人各赏赐了黄金五百斤、白银千斤、钱币五千万、锦帛一千匹。
关羽听说马超归降刘备，他过去与马超毫不相识，于是便写信给诸葛亮，询问马超武艺才干与谁人可以相比。诸葛亮知道关羽气傲心高，于是回信答道：“马孟起兼有文武的资性，凶猛过人，可谓一代俊杰，属于黥布、彭越一类，可与张益德并驾齐驱，但还不及您美髯公绝伦逸群。”关羽蓄着一副漂亮的长须，所以诸葛亮称他美髯公。看了诸葛亮的回信，关羽十分高兴，把它交给宾客幕僚们传阅。
建安二十年（215年），孙权知道刘备已夺得益州，希望取回荆州。刘备却说：“当得到凉州时，便会把荆州交还。”孙权对此十分怨恨，便派鲁肃索要荆州。孙刘两方的将领在阵前“单刀会”，据理相争但最终不欢而散。孙权命吕蒙准备进攻荆州南部，鲁肃将万余人马于益阳牵制关羽，刘备从益州带兵回援。时关羽号称有三万人马，自选五千精锐准备从上游渡河，鲁肃派遣吴将甘宁率领一千人前往关羽的对岸驻守，甘宁的后方还有吕蒙、孙皎、潘璋的数路吴军正与鲁肃的兵马分道并进。关羽认为东吴已经做好了开战的准备，就没有过河。在河对岸扎营，这个地方后来称为“关羽濑”。此时，曹操进取汉中的张鲁，刘备便迅速和孙权修和。协议平分荆州，即分荆州的江夏郡、长沙郡、桂阳郡属于孙权，分荆州的南郡、零陵郡、武陵郡属于刘备，这就是三国史上著名的湘水划界。
鲁肃等人希望维持孙刘联盟，而吕蒙却秘密地对孙权说：“关羽君臣狡诈，反复无常。关羽之所以不敢东进，是因为您有吕蒙这样的人。我等一旦战死，您如何抵挡关羽？”但孙权依然渴望北上进军徐州。吕蒙反对道：“北方地势陆通，骁骑所骋。不如消灭关羽，全据长江。”孙权赞赏吕蒙。但孙权并没有施行吕蒙的计划，而是调集了东吴全境的兵马进攻合肥，以至于合肥之战的东吴兵力明显超过了赤壁之战的东吴兵力（208年，东吴军队兵分三路：孙权一路、张昭一路、周瑜一路。其中，仅有周瑜一路是在赤壁）。而关羽在此期间，一直遵守湘水划界的协定，没有趁虚进攻东吴。
建安二十二年（217年），鲁肃病逝。吕蒙接替鲁肃镇守陆口，在表面上，吕蒙对关羽倍加殷勤、广施恩厚。但在暗地里，吕蒙依然渴望着攻杀关羽。