从小就情厚。后来，仲方以明经当了晋公宇文护的参军，转为记室，升司玉大夫，和斛斯征、柳等一起撰修有关礼仪和音律的书籍。后来又以军功被任为平东将军、银青光禄大夫，封爵为石城县男。当时周武帝已暗暗准备灭齐，崔仲方向他献了二十条计策，武帝大为惊奇。他又和少内史赵芬确定标准。不久又跟从武帝攻下了晋州，武帝又让仲方说降了翼城等四座城池，被任命为仪同，晋爵范县侯。后又任行军长史，跟随郯国公王轨在吕梁俘虏了陈将吴明彻，采用仲方计策最多。

周宣帝即位，被任为少内史。宣帝死，隋文帝任丞相，他和崔仲方见面后，兴地握手，崔仲方也忠心相随。当晚他便向隋文帝献适宜采用的十八条计策，隋文帝十分赞许并采纳。他又劝隋文帝顺应天意受命为帝，隋文帝也听从了。到受禅时，隋文帝召崔仲方和赹一起商议改朝时间及所用的车祭牲的颜。仲方说：“在五行里，晋朝为金，后魏为，周为木，皇帝应以火来继承木德，况且圣上诞生时，有红光的吉兆。因此所用的车辆、匹、旗帜，祭祀用的牲畜，都应采用红。”他又劝隋文帝设置六官制，依照汉、魏的旧制。隋文帝都采纳了。他被晋位为上开府，任司农少卿，晋爵为固安郡公。令他带三万民工到朔方、灵武修筑长城，东至黄河，西到绥州，南到岭，绵延七百里。第二年，又命令仲方领民工十万，在朔方郡的东，沿边境一带的险要地方，修筑几十座城堡，以制止胡人侵。

不久，遭父丧而离职。守丧期未满，起用为虢州刺史。他上书朝廷提取陈朝的策略：

“臣详加考查，晋朝太康元年(280)，正是庚年，晋武帝平定吴国。至今是开皇六年(586)，丙午年，合计过了三百零七年。《秋宝乾图》上说“：帝王有三百年一免之法。”如今三百年的期限可说已到了。陈氏窃据帝位，起于丙年(556)，今年是丙午年，午相冲，正是学中的大忌之年。过去史赵曾说过：‘陈姓，于颛顼帝族，德，所以当岁星在鹑火位时就要灭亡了。’又说‘：周武王灭商，封胡公满于陈。’到鲁昭公九年，陈国有灾祸，裨灶说：‘再过五年岁星到了鹑火，然后陈国就灭亡了，楚国将灭了它。’楚人是祝的后代，当过火正，所以又灭了陈。陈是舜的后裔，而舜又是颛顼的传人，太岁左行时，岁星向右转，到达鹑火的那一年，陈族将又灭亡。戊午这一年，也就是陈氏国运终结的时候了。古语和古事虽然和现在不同，但考察其中的规律，却又没有差别。今我皇朝以五运相承应为火德，国号又称隋，古代隋国和楚国是同分野，楚是火正。午鹑火，未是鹑首，申实沈，酉大梁，正当周、秦、晋、赵的分野，如果在这个时候发兵，将是得到好年的条件。以古代的故事来比照今天，陈朝的灭亡是无疑的。我以为午、未、申、酉同是术数中的极。向来人们说，天时不如地利，地利不如人和。况且皇上圣明，臣下贤良，兵国富。陈朝在上的国君昏庸，在下的民众怨恨，论险没有百二河山的固，论兵众又比不上当年的九国之师，独一隅的蛮夷之众，怎能挡得住奉天命行的讨伐！

“我知朝廷自有宏伟的谋略，而我不过是草野村民的见解，但还是想像萤火虫那样发一微光。现在必须在武昌以下的蕲、和、滁、方、吴、海等各州，安排兵，秘密准备渡河，益州、信州、襄、荆州、基州、郢州等地，加速建造船只，大造声势，制作战的各用。蜀、汉两条江，是长江上游，路要，历来是兵家必争之地。贼人虽然在、荆门、延洲、公安、陵、隐矶、夏首、蕲、盆城设置船队，但最终要聚集到汉和峡，以上作战一决胜负。如果贼人考虑上游有军队，命令兵前去支援的话，我们在下游的所有将领，立即应选择合适的地横渡南下。如果敌人聚集大兵自卫，上游的军就应一鼓作气向前攻。这样，敌方虽自恃有九江五湖的天险，但没有德行便缺乏稳固的基础；徒有三吴和百越之地的兵，但没有恩义便难以自立。”

隋文帝看后，非常兴。他改任崔仲方为基州刺史，征召朝。由于崔仲方奏上平陈的方略，得皇帝嘉许，赐给他皇袍和绫罗绸缎五百段，晋位为开府。当隋朝大举兵攻陈时，任命崔仲方为行军总，和秦王相会合。平陈后，他因事而被免职。不久，又恢复职位。

几年以后，被任命为会州总。当时，北方各羌人还没有归顺朝廷，皇帝传旨命令崔仲方征，他和敌人打了三十多仗，紫祖、四邻、望方、涉题、碉、小铁围山、白男、弱等赭都的各敌人均被征服。他被赏赐给婢一百二十人，黄金三十斤。晋升为代州总，后来又被征召朝。