辽太祖耶律阿保机向南攻，攻下平州，俘获了张希崇并带着他离开平州北去。耶律阿保机询问张希崇，才知他是文人儒生。因此拜封他为元帅府判官。后提升为卢龙军行军司，接着改任蕃汉都提举使。天成初年，伪平州节度使卢文南归，契丹国主让张希崇接替了平州节度使的职位，并派心腹领三百边骑监督他。张希崇上任几年后，契丹国主逐渐信他。一天，张希崇登上州城楼台，私下盘算谋划说：“从前班超在西陲戍守，不敢擅自回去，是因为接受皇上诏谕的缘故。我现在打算关回去，决断在于自己。怎么能坦然安心在这不测之地停留！”于是召集杰的手下汉人，对他们说：“我困陷在这里，喝酪、穿裘，活着时不能与亲情故旧相见，死了则变成这穷野荒漠的孤魂野鬼。南望家乡山山，过一天就像过一年一样漫长。你们难不思念家乡？”下汉人都泪衣，说：“明公打算率领下全南归，好的确是好，只是对众多的契丹人怎么办？”张希崇说“：到明天把契丹人领叫到节度使大帐，先擒住他们，契丹兵失去了统帅将领，众就一定会分散瓦解。再说，平州离契丹王一千多里，等到消息传去，契丹国主再调兵，十天以后才能到达这里，那时我们已经汉人地界很远了。用不着因敌众我寡而忧患！”听后，大家都非常兴。当天，张希崇在郡守府第的旁边空隙地挖了陷阱，贮藏了石灰。第二天，契丹领与众多的随从来到帅帐，张希崇拿几坛醇酒给他们喝，把他们醉以后，就全投石灰坑里淹死了。他们的徒众扎营在城北，张希崇就派人去攻打他们，最后，都溃败突围奔逃而去。张希崇于是率领所辖的活着的二万多人南归后唐。唐明宗奖励他，任他为汝州防御史。

张希崇就任汝州后，派人接母亲来汝州。母亲到了汝州地界，张希崇亲自为母亲抬轿走了三十多里，看到的人没有不称赞叹服他孝顺的。过了二年，升迁为灵州两使留后。此前，每年戍守灵州的士兵运输粮要走五百里，有遭受抢劫的忧患。张希崇于是告诉戍边将士，广泛从事开荒地，屯积粮。一年多后，军队的粮大为充足。皇上诏书褒奖他，因此正式授予他镇守一方的旄节。清泰年间，张希崇厌烦了那里不纯的习俗，接连上表请求朝见皇上，末帝下诏准允了他。到了京城不久，朝廷因听说他安定边疆有功，提议在内地安置他，改任为。。州节度使。到晋祖洛，与契丹将有重要盟约，担心灵武会被契丹攻取，于是又派他任灵武节度使。张希崇叹息说“：我应该老死在边陲城邑了，命中注定逃不这个地方。”因此郁郁不得志，积久成疾，最后死在职位上。其时年仅五十二岁。张希崇从小校接连升到开府仪同三司、检校太尉，多次主持一方的军政事务，赐封清河郡公，享受俸禄三千，赐为清边奉国忠义功臣，也可称得上是荣耀华贵一生的人了。

张希崇一向纯朴厚，特别偏读书，在主事的闲暇，手不释卷。不喜纵酒行乐，不豢养妾婢仆从。严寒酷暑，也一定穿整齐，活的杂役人员，也不曾听到轻薄不逊的言语。服侍母亲，最为谨慎小心，每当母亲吃饭时，他都一定侍立在旁，等到母亲洗漱完毕才退下。大家都认为他品德尚。他情虽然仁厚宽恕，但如果碰上诈邪恶的事情，则像憎恨仇人那样。在。。州任刺使的日里，有个人给郭氏义，郭氏一直把他从孩提时代抚养到长大成人。后因为他情暴躁不服从教，被郭氏赶去。郭氏夫妇接着都相继去世，郭家的亲生儿已经长大成人。当时，郭家亲朋好友与那义相约，都说他是郭氏的亲生儿，要分得郭家的财产，帮助他打官司，前后经历几个执政官都不能断案，于是成了疑案。张希崇查阅了那状词，宣判说“：父亲活着时，已经离开，母亲死的时候，又不去尽孝，作为养，不过辜负了二十年抚养之恩而已；如果说是亲生儿，那就冒犯了三千条悖逆不孝的罪过，极大地损害了名教。怎么还敢到衙门去申辩继承财产！郭氏的遗产都一并给亲生儿继承，那些诉讼的人与朋比为的人，给司法官刑律定罪。”听到判决的人都佩服他明察。

张希崇还通观测天象，在灵州官时，观察到月亮遮盖了毕宿上的大星，经过一个月才恢复到原来的样，于是叹着气说：“毕宿上的大星，是地上的边疆将领，月亮再一次遮盖它时，我的生命就完结了！”后来果然死在灵武郡。