及车驾南伐，丕与广陵王羽留守京师，并加使持节。诏丕、羽曰：「留守非贤莫可。太尉年尊德重，位总阿衡；羽朕之懿弟，温柔明断。故使二人留守京邑，授以二节，赏罚在手。其祗允成宪，以称朕心。」丕对曰：「谨以死奉诏。」羽对曰：「太尉宜专节度，臣但可副贰而已。」高祖曰：「老者之智，少者之决，何得辞也。」及高祖还代，丕请作歌，诏许之。歌讫，高祖曰：「公倾朕还车，故亲歌述志。今经构既有次第，故暂还旧京，愿后时亦同兹适。」

及高祖欲迁都，临太极殿，引见留守之官大议。乃诏丕等，如有所怀，各陈其志。燕州刺史穆罴^[pí]进曰：「移都事大，如臣愚见，谓为未可。」高祖曰：「卿便言不可之理。」罴曰：「北有猃狁之寇，南有荆扬未宾，西有吐谷浑之阻，东有高句丽之难。四方未平，九区未定。以此推之，谓为不可。征伐之举，要须戎马，如其无马，事不可克。」高祖曰：「卿言无马，此理粗可。马常出北方，厩在此置，卿何虑无马？今代在恆山之北，为九州之外，以是之故，迁于中原。」罴曰：「臣闻黄帝都涿^[zhuō]鹿。以此言之，古昔圣王不必悉居中原。」高祖曰：「黄帝以天下未定，居于涿鹿；既定之后，亦迁于河南。」尚书于果曰：「臣诚不识古事，如闻百姓之言，先皇建都于此，无何欲移，以为不可。中原其如是所由拟，数有篡夺。自建邑平城以来，与天地并固，日月齐明。臣虽管见肤浅，性不昭达，终不以恆代之地，而拟伊洛之美。但以安土重迁，物之常性，一旦南移，惧不乐也。」丕曰：「陛下去岁亲御六军讨萧氏，至洛，遣任城王澄宣旨，敕臣等议都洛。初奉恩旨，心情惶越。凡欲迁移，当讯之卜筮，审定吉否，然后可。」高祖谓丕曰：「往在鄴中，司徒公诞、咸阳王礻喜、尚书李冲等皆欲请龟占移洛吉凶之事。朕时谓诞等曰，昔周邵卜宅伊洛，乃识至兆。今无若斯之人，卜亦无益。然卜者所以决疑，此既不疑，何须卜也？昔轩辕卜兆龟焦，卜者请访诸贤哲，轩辕乃问天老，天老谓为善。遂从其言，终致昌吉。然则至人之量未然，审于龟矣。朕既以四海为家，或南或北，迟速无常。南移之民，朕自多积仓储，不令窘乏。」丕曰：「臣仰奉慈诏，不胜喜舞。」高祖诏群官曰：「卿等或以朕无为移徙也。昔平文皇帝弃背率土，昭成营居盛乐，太祖道武皇帝神武应天，迁居平城。朕虽虚寡，幸属胜残之运，故移宅中原，肇成皇宇。卿等当奉先君令德，光迹洪规。」前怀州刺史青龙，前秦州刺史吕受恩等仍守愚固，帝皆抚而答之，辞屈而退。

帝又将北巡，丕迁太傅、录尚书事。频表固让，诏断表启，就家拜授。及车驾发代，丕留守，诏曰：「中原始构，须朕营视，在代之事，一委太傅。」赐上所乘车马，往来府省。丕雅爱本风，不达新式，至于变俗迁洛，改官制服，禁绝旧言，皆所不愿。高祖知其如此，亦不逼之，但诱示大理，令其不生同异。至于衣冕已行，朱服列位，而丕犹常服列在坐隅^[yú]。晚乃稍加弁带，而不能修饰容仪。高祖以丕年衰体重，亦不强责。及罢降非太祖子孙及异姓王者，虽较于公爵，而利享封邑，亦不快。高祖南征，丕表乞少留，思更图后举。会司徒冯诞薨，诏六军反旆。丕又以熙薨于代都，表求銮驾亲临。诏曰：「今洛邑肇构，跂望成劳，开辟暨今，岂有以天子之重，远赴舅国之丧？朕纵欲为孝，其如大孝何？纵欲为义，其如大义何？天下至重，君臣道悬，岂宜苟相诱引，陷君不德。令、仆已下可付法官贬之。」又诏以丕为都督，领并州刺史。后诏以平阳畿甸，改封新兴公。

初，李冲又德望所属，既当时贵要，有杖情，遂与子超娶冲兄女，即伯尚妹也。丕前妻子隆同产数人，皆与别居。后得宫人，所生同宅共产。父子情因此偏。丕父子大意不乐迁洛。高祖之发平城，太子恂留于旧京。及将还洛，隆与超等密谋留恂，因举兵断关，规据陉北。时丕以老居并州，虽不预其始计，而隆、超咸以告丕。丕外虑不成，口虽致难，心颇然之。及高祖幸平城，推穆泰等首谋，隆兄弟并是党。丕亦随驾至平城，每于测问，令丕坐观。隆、超与元业等兄弟并以谋逆伏诛。有司奏处孥戮，诏以丕应连坐，但以先许不死之诏，躬非染逆之身，听免死，仍为太原百姓，其后妻二子听随。隆、超母弟及余庶兄弟，皆徙敦煌。丕时年垂八十，犹自平城力载，随驾至洛阳。高祖每遣左右慰勉之，乃还晋阳。