路阻隔未能赴任。碰上黄巾军攻青州地区，郑玄就到徐州避难。徐州牧陶谦用师友之礼接待他。

建安元年(196)，郑玄从徐州回到密，路上遇到数万黄巾军。黄巾军见了郑玄都下拜，大家相约不得密县境。后来，郑玄患了一次重病，恐自己不久于人世，于是写信告诫他的儿郑益恩说：“我们家过去很贫困，得到父母和诸弟的宽容、支持，辞掉了像贱役一样的小吏，到周、秦等地游学，往来于幽、并、兖、豫等州，能够觐见那些在位的博通古今的大师，和隐居的著名学者。最使我得意的是这些通儒接受了我的请教，对我有所传授。于是，我广泛查考《六艺》，浏览传记，还不时阅读珍秘的国书，窥见国谶的奥秘。过了四十岁，才回家供养父母，租田耕以度时日。碰上宦官独揽权力，我被党人牵连而遭禁锢，过了十四年才获赦免。后来多次被推举为贤良、方正、有诸人才，被大将军、三司府征召任职，两次被朝廷征召。和我同列征召名牒的其他人，有的早已了宰相。想到那几位有德才的人，他们能够胜任大臣的职责，因此应当任用。我估量自己没有才能担任这类职务，只想阐述先圣孔儒家学说的本意，统一各家歧异，也希望竭尽自己的才智，所以接到征召而没有应命。黄巾造**，使我南北奔走，行踪漂泊，现在才返回故乡。到这一年我已经七十岁了。旧时的学业素养已经荒疏，还有些失误之。据典礼规定，就应该把家事传给儿理了。现在我告诉你，我老了，家事都给你承担，我将闲居安，思考以完成事业。除非接受国君的命令，问亲族的疾苦，察看祭扫坟墓，观览省察野，我何曾拄杖过门呢？大小家事，全由你承担。可叹你独自一人，没有兄弟妹可以依靠。你一定要奋勉努力，追求君的修养，钻研不懈。要谨慎地注意自己的态度仪表，亲近那些有德行的人。显赫的声誉是由同事、朋友促成的，德行是靠自己的志向建立的。如果得到了好名声，亦可光耀父母，这些，岂可不思吗？我虽然没有官的显赫，但有让爵的清，以评论整理经典的事业自乐，希望不会落得后人的讥笑。

最后，我的心不能平静的，是死去的双亲坟墓没有修成，所喜的群书大都腐烂，不能于讲学习礼的堂内写成定稿，传给应该传授的人。我就像西下的太，将近迟暮，还能完成这些事业吗？我们家比过去稍好一些了。只要勤奋努力，惜光，就不怕缺衣少。茶淡饭，简朴衣裳，如果能在这两方面加以节制，就算让我没有什么遗憾了。如果忘记了我这些话，会不到我的一片苦心，那也就算了吧。”这时，大将军袁绍在冀州统领大军。他派使者邀请郑玄，大会宾客。郑玄最后到达，袁绍把他延上座。郑玄材大，能饮酒一斛，眉清目秀，容貌仪表，温和伟岸。袁绍的客人大都是俊秀豪杰，有才气，善辩论，他们看到郑玄是个儒者，以为他并不是什么通博的人。于是大家争相设想一些刁钻古怪的问题，各家学派的观纷杂提。郑玄依照儒家正统的观答辩应对，内容都超了提问的范围。大家获得了闻所未闻的知识，没有人不叹服敬佩郑玄的。这时，汝南人应劭也归附袁绍，于是自我介绍：“前秦山太守应中远，向您北面称弟，怎么样？”郑玄笑着说：“孔的学生，要考德行、言语、政事、文学四科，颜渊、贡这些学生向来不称自己的官衔和门第。”应劭听了到很惭愧。于是，袁绍荐举郑玄为茂才，上表推荐他为左中郎将。郑玄都没有就任。朝廷征召他为大司农，给了他一辆安车，并规定凡是他所经过的地方，主官员都要迎送。郑玄都以有病请求还家。

建安五年(200)，郑玄梦见孔告诉他说：“起来，起来，今年是庚辰年，明年就是辛已年。”醒来，据谶纬推算，知自己将不久于人世。不久他就病了。这时，袁绍与曹的军队在官渡对峙。袁绍命令他的儿袁谭派使者迫郑玄随军，郑玄没有办法，只好带病到元城县，终因病重不能前。这一年的六月郑玄去世，终年七十四岁。郑玄遗嘱薄葬。届时曾在郑玄门下当过学生的，自郡守以下官员一千多人，都穿着隆重的丧服前来送葬。郑玄的学生共同撰写郑玄生前回答诸弟从《五经》中提的问题，依照《论语》的例编为《郑志》共八篇。总计郑玄所注释的书，有《周易》、《尚书》、《诗》、《仪礼》、《礼记》、《论语》、《孝经》、《尚书大传》、《中候》、《车乞象历》。郑玄自著的书有《天文七政论》、《鲁礼礻帝礻合义》、《六艺论》、《诗谱》、《驳许慎五经异义》、《答临孝存周礼难》，共一百多万字。郑玄对于经典辞义训释，力求质朴实在，博通的人多讥刺这法太繁琐，至于说到经典传注的丰富熟悉，他可能称为纯正的儒者。齐鲁一带的人们都尊奉他为宗师。他的学生山人郗虑官至御史大夫，东莱人王荃、清河人崔琰在当地都很有名气。又乐安人国渊、任古段当时很年幼。郑玄称国渊是国家栋梁之材，任古段有崇的品德，其余的人也多有评定和推荐。后来这些人的成就都像他所说的那样。郑玄只有一个儿叫郑益恩，孔作北海相时，举荐他为孝廉。等到孔被黄巾军围困，益恩赴难亡。益恩有一遗腹，郑玄因为他的手纹与自己的手纹相似，便给他取名叫郑小同。