之人，以充任御史，同时参加策考试的有八百多人，温升与卢仲宣、孙搴等二十四人中第。当时参与选的人争相引决，元匡让温升去应付他们，众人都受屈而去。孙搴对人说：“朝来吵吵嚷嚷的人群，都是升把他们赶走了。”于是补御史职，当时只二十二岁。台中文笔都是温升所为。后以家丧离任，丧期满后，又应朝请任原职。后来李神隽行荆州事，引他兼录事参军。被征赴省，李神隽上表留他，不让他还朝。吏郎中李奖退表不许，说：“过去伯瑜不应留，王朗因此发叹，你今应迅速让他赴朝，不要步彦云前番过失。”于是温升还省。

正光末年(525)，广王元渊任东北行台，召温升任郎中，军国文书都自他的手笔。从此才名转盛。黄门郎徐纥受四方表启，回答迅速，对于元渊独沉思说：“他有温郎中，才辞可畏。”车人战败逃散，珍宝到都是，升只取绢四十匹。等到元渊被葛荣所害，升也被逮捕了。葛荣下都督和洛兴与温升是旧相识，送给温升数十匹，他到了冀州。还京后，李楷握着他的手说：“卿今免祸，足以使夷甫忏悔惭愧。”从此后，温升没有了为官的愿望，闭门读书，厉不已。

建义初年(528)，任南主客郎中，修起居注。他曾有一天没有值班，上党王元天穆当时任录尚书事，准备鞭打他，温升便逃走了。天穆很恼火，奏请别人代替他的位置。庄帝说：“当世才不过数人，哪能为这小事，便加放逐。”于是只好作罢。等到元天穆准备讨伐邢杲，召温升同行，升没敢答应。天穆对人说：“我想把他当个才来使用，哪里会怀前忿。今天他又不来，除非他南逃越地，北走胡原就算了！”温升不得已只好去见他。加授伏波将军，任行台郎中，元天穆地赏识他。元颢洛，元天穆召温升问：“是挥师向京城，还是随我北渡？”回答说：“主上因虎牢关失守，才导致今天的狼狈局面。元颢新京城，人情未定，今天就去讨伐，必定是有征无战。大王如若先克复京城，奉迎大驾，这就是齐桓、晋文之举了。舍此而北渡，臣窃为大王惋惜。”元天穆觉得他说得好却不能他说的去。派温升还归洛，元颢命他为中书舍人。庄帝还，以前被元颢任职的多被废黜，而温升仍为舍人。元天穆每每对温升说：“恨我不能依卿前计办事。”温升被除任正员郎，仍任舍人。

等到庄帝杀了尔朱荣，升参预了谋划，当时的赦免诏书，就是升的手笔。尔朱荣内，遇到温升，拿着诏书问他是何诏书，升颜不变，说“敕”尔朱荣不看他。尔朱兆洛，温升怕遇祸，逃走了。永熙年间，任侍读兼舍人、镇南将军、金紫光禄大夫，迁任散骑常侍、中军大将军，后领本州大中正。

萧衍让张皋模仿温升文笔，传文江外。萧衍称赞说：“曹植、陆机又生于北土。恨我辞人，白白有一百零六人。”夏太守傅标使吐谷浑，看到其国主床有书数卷，原来是温升的文字。济王晖业曾经说：“江左文人，宋有颜延之、谢灵运，梁有沈约、任日方，我升足以陵颜压谢，任吐沈。”杨遵彦作《文德论》，认为古今文人都负才遗行，行薄险忌，只有邢才、王元景、温升彬彬有德行。