。张汤掘开鼠找到了偷的老鼠和吃剩的，陈述老鼠的罪状，拷打审问，传审问记录的文书，写明了经过审问判决上报的程序，并提取盗鼠和余，完成了审判程序，案卷齐备，在厅堂下面肢解了盗鼠。他父亲见到这情景，看到他判决的文辞像老练的法官一样，非常惊奇，就让他学习刑狱文书。

他父亲死后，张汤担任长安县吏。周侯田胜担任九卿的时候，曾经被关在长安监狱里，张汤竭尽全力帮助关照他。等到周侯狱后封了侯爵，跟张汤非常友好，把张汤介绍给那些要人。张汤为内史下属，任宁成的属官，宁成认为张汤才能无比，推荐给丞相府，调任茂陵尉，主持陵墓土建工程。

武安侯担任丞相，调张汤担任丞相府的属吏。并把他推荐给皇帝，担任了侍御史。在理陈皇后巫蛊案时，追究其党羽，皇上认为他能，提升为太中大夫。他和赵禹共同制定各法令，注重苛捆严峻，严格约束在职的官吏。不久，赵禹升少府，张汤担任廷尉，两人相友好，张对待鱼过有如兄长。！蝎为人廉洁倨傲，巫汤喜玩智谋来驾御别人。他起初当上小官，投机取利，跟长安富商田甲、鱼翁叔之辈暗中勾结。等到他居于九卿之位，就招纳全国的知名人士和官吏，自己内心虽跟他们意见不合，但又假装敬仰他们。

这时皇上正喜好儒学，张汤判决大案，想要附会古义，于是请博士弟研习《尚书》、　《秋》，担任廷尉史，调平法令的可疑。上奏判决疑难案件，一定要预先给皇上分析各方面的原由，凡皇上所肯定的，就接受作为依法判决的案例廷尉的成文法规，来宣扬主上的圣明。报告工作如受谴责，张汤就承认错误而谢罪，顺着皇上的意向，一定要举贤能的助理官员或办事吏员说：　“他们本来向我建议，正像皇上所要求我的一样。我没有采用，才愚蠢到了这地步。”因此他的过错常常得到宽恕。他有时上奏章议事，皇上赞许那个奏章，他就说：　“我不知写这样的奏章，这是监、掾、史中某某写的。”他想要推荐下，宣扬某人的长或者掩饰某人的短就是这样。办理的案件如果是皇上想要加罪的，就把它给执法严苛的监吏办理；所办案件如果是皇上想要宽容的，他就把案给执法轻平的监吏去办。所审判的如果是豪，他一定玩法律条文严加惩办；遇上贫穷人家被审判，常说“就是法律定了罪，皇上还要裁断审察”于是往往如张汤所说。张汤虽到大官，私生活很严肃，结宾客，款待饮，对于充当属吏的老朋友弟以及贫穷的本族兄弟，照顾得更加优厚。他前去问候三公，不避严寒酷暑。因此张汤虽用法刻，内心不能纯正公平事，却得到了这好名声。而多数替他力的苛刻毒的官吏，多数藉助于儒学之士。丞相公孙弘多次称赞他。

等到查办淮南王、衡山王、江都王谋反的案件时，都是追究底。严助和伍被，皇上想要赦免他们，张汤争辩说：“伍被本来策划谋反，而严助得幸，是廷禁门的心腹臣，却私通诸侯，像这样的人不杀掉，以后类似情况不好理。”于是皇上同意了对他们的判决。他办理案件打击大臣以为是自己的功劳，这类事情很多。于是张汤更加受尊信任，不久就升任御史大夫。

当时恰逢浑邪王等投降，汉朝大规模兵讨伐匈，山东地区遭到灾、早灾，贫穷的老百姓离迁徙，都依靠政府供给衣，仓库空虚。这时张汤顺承皇上的心意，奏请铸造银币和五铢铜币，垄断经营全国的盐和铁，排挤富商大贾，颁布告缗令，铲除豪并兼的大，玩法律条文巧言诬陷，以辅助严刑峻法的实施。张汤每次上朝报告工作，说到国家财政用度，时间拖得很长，以致皇帝忘了吃饭。适时的丞相衹是空占职位，国家大事都取决于张汤。老百姓不能安定地生活，发生动，政府所兴办的事业，没有获得利益，贪官污吏一起盗窃、侵夺，于是严厉地用刑罚制裁他们。因而从公卿以下直到平民，都指责张汤。张汤有一次得病，皇帝亲自去探问病情，他的显贵达到了这程度。