司马睿是司马懿的曾孙，琅邪王司马伷的孙子，嗣琅邪王司马觐的儿子。觐早死，睿袭封琅邪王。司马睿的封地邻接司马越的封地。在八王混战时期，司马睿一直在司马越卵翼之下，成为司马越的忠实党羽。司马越率军北上，参与宗室混战，就把自已后方军事根据地下邳(今江苏睢宁西北古邳)交给司马睿去镇守。其后，北方的局势日见恶化，而下邳又是一个“四战之地”，不易守御，于是司马睿请求司马越，把根据地从下邳移到长江之南的建邺，司马越正有从北方失守退守江南的打算，自然同意司马睿的请求。于是由西晋政府下令任命司马睿为安东将军、都督扬州江南诸军事，令其移镇建邺；不多时，又以司马睿为镇东大将军，都督扬、江、湘、交、广五州诸军事，他便成为江南地区的最高军政长官。司马睿的移镇建邺，是在晋怀帝永嘉元年(公元307年)七月；王澄出任荆州都督，是在同年十一月；王敦被任命为扬州刺史，是在永嘉三年三月，由此可见，在洛阳实际上掌握西晋政府大权的东海王司马越和世家大族的代表人物太尉王衍，他们在那时已经开始布置好南渡的准备工作了。
其后洛阳饥困危急，司马越率领西晋的主力军十余万人与王衍等退守许昌。永嘉五年三月，越在行军途中病死；众推王衍为元帅，想护送司马越柩还葬东海(治郯，今山东郯城北)。四月，王衍等行至苦县(今河南鹿邑东)宁平城(在今河南郸城东北三十五里)，遭石勒军围攻，全军覆没。同年六月，洛阳亦失守，怀帝被刘聪所俘。建兴四年(公元316年)，长安又陷落，愍帝被俘，北方的司马氏政权，至此覆灭。公元317年，司马睿也就和过江的世家大族，建立起侨寓的东晋政权来了。
司马睿为琅邪王时，就和王衍的族弟、王敦的从弟王导(太保王祥弟王览之孙)“素相亲善”，王导对司马睿也是“倾心推奉”(《晋书·王导传》。东晋政权的建立，琅邪王氏翼戴之功居多。王导任宰辅，王敦都督江、扬、荆、湘、交、广六州军事，居上游重镇，所谓“王与马，共天下”(《太平御览》卷495引《晋中兴书》),并不是凭空产生的一句话，是符合当时实际情况的。有了世家大族的相率渡江，而后司马睿能在长江以南重建政权。这个政权的主要支柱既是世家大族，于是北来的世家大族到达江南以后，东晋政府除了“收其贤人君子”(《晋书·王导传》)与之共图国事以外，还对其家族照顾备至。如太原王佑子王峤，携二弟渡江避难，既到建邺，司马睿就下诏日:“王佑三息(子)始至，名德之胄......宜蒙饰叙。且可给钱三十万，帛三百匹，米五十斛，亲兵二十人。”(《晋书·王湛传族孙峤附传》)可见东晋政府对于流离南下的世家大族，照顾得是无微不至的。