不修了。洁之士守其志而不肯媚时，中等人才追求就很容易了。若朝廷能以好名声鼓励人，士也以修名来得利，利之所，是众人之所求。若不这样，从小说，只求苟得，而只知谋私；从大说，以义易，而结为朋党。所以说，用人不可以不排列其才能的下。

才能分了等级，就不会盲目用人，那天下之士定会刻意修自守，刑政自然清正，这是有关国家兴衰的大事。”

不久，升任左补阙。张九龄颇能鉴别人才，吏考试时，张九龄常与右拾遗赵冬曦一同参与评定，当时称他们考为“详平”后改任司勋员外郎。那时，张说为宰相，十分看重他，且与他通谱系为同宗，常说张九龄是“后词人之首位”张九龄又升任中书舍人内供奉，封爵曲江男，而为中书舍人。皇帝去封泰山，张说挑选了两省的录事主书及他所亲近的人随从登山，将这些人越级升为五品。张九龄负责草拟诏书，对张说说“：官职爵位，是天下的公，首先要看人的德行声望，然后再看他的劳绩年限。

现在登山封禅成功，是千载的大典，一些有声望之人被排在殊恩之外，而一些胥吏却得以升官，我担心这样的制书一，四方都会失望的。现在刚刚送上草稿，还可以改动，望公仔细考虑衡量。”张说说“：事情已经决定了，那些牢话不足为虑。”后来，果然受到批评。御史中丞宇文正在拟定田税法，有所报告，张说都建议改变。宇文心中十分不平，张九龄替他申说，张说不听。不久，张说受到宇文等人的痛加诋毁，几乎不能免死。张九龄也改任太常少卿，京为冀州刺史。因为母亲不肯离开乡里，所以上表请改为浩州都督。后调桂州，兼岭南察选补使。

当初，张说主集贤院，曾推荐张九龄可任顾问。张说死，天想起张说说的话，召张九龄为秘书少监、集贤院学士，主集贤院的工作。那时要赐渤海诏书，而能写这样诏书的人找不到，于是召张九龄起草，渤海之事也就办成了。

升张九龄为工侍郎，理草拟制诰事。

张九龄多次要求辞职，回去奉养母亲，均未得允许。因其弟弟张九皋、张九章是岭南刺史，就每年给假给驿，让他们回去看望母亲。张九龄任中书侍郎时，因母丧而解职。丧期十分尽孝哀痛，居然在他坐席旁生灵芝来，还有白鸠、白雀在他家树上建窠。这一年，皇帝要夺哀起复(不待丧期结束而任用)他为中书侍郎、同中书门下平章事。张九龄持辞谢，皇帝不许。第二年，任中书令。以前他曾建议在河南开屯，于是要他兼河南稻田使。上疏建议废除凭资格任官的办法，再次设置十采访使。

李林甫学问不大，见张九龄因文雅而受到皇帝的赏识，心中十分忌恨。那时范节度使张守皀因斩杀可突有功，皇帝打算任张守皀为侍中。张九龄劝谏“：宰相是代替天来治理天下的，有了当宰相的人才后，才能任职，不能用它来奖赏功劳。难说国家的败亡，不是由官员的不称职和邪所致的吗？”皇帝说“：只给一个空名可以吗？”张九龄说：“名，是不可以假借的。假如有人平定了东北二虏，那陛下加他们什么官呢？”

此议就作罢。另一次准备把凉州都督仙客提为尚书。张九龄持说“：不可以。尚书一职，是古代的纳言官，唐家多用旧相担任，或者用历任内外职且德望重的人担任。仙客，只是河、湟的一个使典罢了，让他任常伯，天下人将会怎么说？”又准备赐仙客实封，张九龄说“：汉朝的法令，不是有功之人不封。唐遵汉法，是太宗定下的制度。边将要储粮布帛，修缮械，实封正是适应这需要定下的，陛下要赏赐仙客，可赏钱财，不能封地给他。”皇帝生气了，说：“你是因为仙客是个寒士而轻视他，是吧！你难是生来就有门阀的吗？”张九龄叩谢罪说“：臣生于荒野之，陛下错，以文学用臣。仙客升任胥吏，不读诗书。韩信，只不过是淮一壮士，尚羞与周婴同列。陛下若一定要用仙客，臣以与他同列为耻。”皇帝很不兴。第二天，李林甫言：“仙客，有宰相之才，难还不能担任一个尚书吗？张九龄是个文官，拘泥于古义，以致失大。”皇帝因此决定要用仙客。张九龄既已违逆皇帝的旨意，内心恐惧，担心被李林甫陷害，就借皇帝赐他一把白羽扇，献赋致谢，且自我表白。赋的末尾说：“只要能有效力的地方，即使杀也心甘情愿。”还说：“纵然秋气来临，不再用我，也始终恩，安心地居于箧中。”皇帝虽然依旧很宽容地优待他，但终于以尚书右丞相罢了他的政事而用仙客。从此，朝廷大夫都只拿俸禄，养尊优了。张九龄曾推荐长安尉周谅为监察御史，周谅检举揭发仙客，语言中援用了谶书。皇帝很生气，在朝堂上杖责周谅，放到氵襄州，死在半路上。张九龄因荐举不称职的人而犯罪，贬为荆州长史。他虽因恪守正直之而被黜，并不忧戚地寄盼复官的期望，每日只以文史自娱，朝廷中都嘉许他为上品之人。很久以后，封爵始兴县伯，上表请求回家乡扫墓，回去后病死，终年六十八岁。追赠荆州大都督，赐谥为“文献”

张九龄一向弱，但很有风姿。以往的习惯，公卿都把笏在衣带里，然后骑。张九龄则常让别人代他拿着，特制一个笏袋。以后，朝臣们的笏也都装在笏袋里了。以后皇帝每用一新人，都要问：“他的风度能与九龄相比吗？”当初，千秋节(帝王生日)时，公、王都要献宝镜，张九龄独独献《千秋金鉴录》十章，用以借古证今。张九龄与严之、袁仁敬、梁升卿、卢怡等人友善。世人都称他们的往能始终如一。到他任相位时，能不避权贵而直言，保持大臣的节度。当时，皇帝已在位久，对国政渐有懈怠，所以张九龄有所议论时，必认真剖析得失，所推举引荐的都是正人君。武惠妃谋陷害太瑛，张九龄执意认为不可以。惠妃秘密派宦贵儿去对张九龄说“：有废就有兴。公若肯援助，宰相之位可以长了。”张九龄怒叱“：闱怎能预朝廷之事？”并立刻奏报皇帝，皇帝也为之动。所以，张九龄在相位时，太一直无事。安禄山最初以范偏校的份朝奏事，态度颇骄慢。