命来奉行诏书。”元羽回答说：“太尉应一人总，臣下仅能辅助而已。”祖说：“老人的智慧，青年人的决断，何必推辞呢？”等到祖回到代京，元丕请求创作歌辞，诏令准许。作歌辞后，祖说：“您一意让我返回，所以亲自作歌辞表述志向。现在营造已有安排，所以暂时回到旧京城，希望今后也同有这乐。”

等到祖要迁都，前往太极殿，召见留守的官员大规模地商议。就诏令元丕等人，如有自己的想法，各自陈述意见。燕州刺史穆照奏说：“迁都的事情重大，如臣下的愚蠢见解，以为不可以。”祖说：“你就谈谈不可以的理。”穆照说：“北方有硷狁的侵犯，南方有荆州扬州没归附，西方有吐谷浑的阻遏，东方有句丽的祸难。天下没平定，九州未统一。以此推断，以为不可以。征伐的举动，必须要有战，如果没有，事情就不能成功。”祖说：“你说没有，遣理大说得过去。通常在北方，厩在这裹设置，你何必担心没有？现在代京在恒山的北面，是九州以外地区，因为这个缘故，所以迁到中原。”穆罢说：“我听说黄帝在涿鹿建都。以此说来，古代圣明的君王不一定都居住在中原。”祖说：“黄帝因天下没平定，居住在涿鹿，等平定之后，也迁到黄河以南。”尚书于果说：“臣下实在不懂古代的事，但听到百姓的议论，先朝皇帝在这裹建都，平白无故地要迁移，以为不可以。中原哪如拟定的那样好？不断地有篡夺发生。我国自从建都平城以来，同天地一样固，与曰月一样明朗。臣下虽然见议肤浅，秉不通达，终究不能在恒代之地，而揣度伊盗的好。仅因留恋故土不愿迁居，是人的本，一旦向南迁移，担心人们不乐意。”元丕说：“陛下去年亲自统率六军讨伐萧氏，到达洛，派遣任城王丞逻宣布旨意，命臣下等人商议在盗阻建都。起初接到韶旨，心情惶恐。凡要迁移，应讯问卜筮，审察确定是否吉利，然后才可迁移。”祖对元丕说：“往年在邺中，司徒公元诞、咸王元禧、尚书李冲等人都要请用甲占卜迁移洛的吉凶事情。我当时对元诞等人说，从前周公邵公用占卜选定居住地在伊洛之间，是懂得最的征兆。现在没有这样的人，占卜也没有益。然而占卜是用来解决疑惑的，此事既不用疑惑，又何必占卜呢？从前轩辕占卜而甲焦枯，占卜者请求访求贤明的人，轩辕就询问天老，天老认为是好事。于是听从他的话，终于达到昌盛吉祥。那么当明人士的见识难以判断时，而以甲来确定。我既以四海为家，有时南有时北，快慢不定。向南迁移的民众，我自然多积累仓库的储蓄，不使大家窘迫贫乏。”元丕说：“臣下恭敬接受仁慈的诏书，不胜欣鼓舞。”祖诏令群官说：“你们或许以为我是平白无故地要迁徙。从前平文皇帝离弃本土，昭成皇帝营建居住到盛乐；太祖武皇帝以英明勇武顺应上天，迁居到城。我虽然德才薄弱，荣幸地遇上遏制凶残的国运，所以迁都到中原，拓展国土。你们应遵奉先代君主的德，继承宏伟的规范。”前怀州刺史青龙，前秦州刺史吕受恩等人仍然持愚蠢顽固的态度，皇帝都安抚而回答他们，各人在理屈词穷后退下去。

皇帝又将向北巡视，元丕升任太傅、录尚书事。接连上奏疏执意推让，诏令断绝奏疏陈述，到家中任命。等到皇帝从代京发，元丕留守，诏令说：“中原开始经营，需要我督促料理，代京的事情，全委托给太傅。”赐予皇帝所乘坐的车，来往于府省中。

元丕很喜本地风尚，不理解新条令，至于改变习俗迁都洛，改革官职制定服饰，禁止旧语言，都不愿意。祖知他这样，也不迫他，衹是用大理诱导，使他不生是非。至于衣帽已换，众官穿着红公服排列位次，而元丕仍穿平常的服装坐在角落。很久之后才渐加帽丝带，而不能修饰自己的仪表。祖因元丕年纪衰老地位尊贵，也不勉要求他。等到罢除降低非立祖的孙以及异姓为王者，虽降封为公，而享受封邑的利益，他也不快乐。疑

祖向南征讨，元丕上奏疏请求稍微停留，考虑再图谋今后的举动。遇上司徒冯诞逝世，诏令六军返回。元丕又因冯熙在代都逝世，上奏疏请求皇帝亲临丧事。下诏说：“现在洛邑开始营建，举踵翘望为辛劳。开天辟地到如今，岂有以天的尊贵，遥远地奔赴舅氏丧事的理？我纵然想行孝，该如何对待大孝纵然想讲义，该如何对待大义天下是最重要的，君臣理悬远，怎么能随意相引诱，陷君于不德的境地。尚书令、仆以下可付执法官员贬黜。”又下韶任命元丕为都督，兼领并州刺史。后来下韶因是京郊，改封元丕为新兴公。

起初，李冲的德行威望为人瞩目，他既是当时显要人，元丕有依仗的心意，就为儿元超娶李冲哥哥的女儿，即伯尚的妹妹。元丕前妻的儿元隆同胞几人，都与元丕分别居住。后来得到女，所生女住在一起共有家产。父的情于是疏远。

元丕父大的心愿是不乐意迁到洛。祖从平城发，太元恂留在旧都，到将要回洛时，元隆和元超等人密谋留下元恂，因之起兵拦截关，谋划占据井陉以北。当时元丕因年老居住在并州，虽然不参预他们开始的计划，而元隆、元超都将计划告诉了元丕。元丕外表上担心不能成功，中虽表示责难，心中却很赞同他们。等到祖前往平城，推究穆泰等人是主谋，元隆兄弟都是党羽。元丕也随皇帝到平城，每次审问，命元丕坐在旁边观看。元隆、元超和元业等兄弟都以谋反罪伏法受死刑。有关官员上奏全家诛杀，下诏以为元丕应连坐，衹因先前许下不受死刑的诏书，元丕本人没有参与叛逆，准许免去死刑，贬为太原百姓，后妻所生二准许跟随在边。元隆、元超的同母弟和其余庶的兄弟，都放到敦煌。元丕遣时年近八十岁，还从平城扛着东西，跟随皇帝到洛。祖时常派遣左右的人劳勉励他，于是回到晋。