昭武校尉。后来被召募到安西，军队中开始使用长刀、李嗣业特别善于使用，每次战斗必定担任先锋，所向无敌。灵鮞任节度，每次兵都带他一起去。

仙芝征伐律国，任命李嗣业和中郎将田珍为左右陌刀将。当时吐蕃十万军队驻扎在娑勒城，靠山临河，用木材修成城寨，来抵御唐军。仙芝夜里偷渡信图河，下命令说：“到中午打败敌人，不然都死。”李嗣业率步兵登上山，往下推石砸死敌军，又扛着大旗带冲向险路，众将都跟着他。敌军没料到唐军突然来了，因此大败，到山崖下摔死的有十分之八。他们乘胜军到了律国，抓住了他们的国王，讨平了他们的国家。李嗣业被封为右威卫将军。后又跟着仙芝讨平了石国和突骑施，任先锋加封特官。敌军称他叫“神通大将”

先前，王仙芝靠用计偷袭攻占了石国，石国国王的儿逃跑了，就挑拨各族都恨仙芝，并告诉了大国，他们联合军队来攻四镇。仙芝率两万军队攻，被大军打败，残兵只几千人。

情况急，李嗣业对仙芝谋划说：“您率兵敌境，后无援兵，大军乘胜攻，他们其他各族军队也将勇猛敢斗，我和您都前去战死了，谁来报效国家呢？

不如退守白石岭考虑退兵。”仙芝说：“我正召集被打散的军队，明天再和他们战。”李嗣业说：“大势已去，不能坐等杀。”于是立即赶去扼守白石岭，路狭窄，步、骑兵一个跟着一个前，遇上汗那先退兵，辎重车堵住了路不能过，李嗣业怕被追上，手拿大打他们，士兵和匹被打倒的有几十上百，汗那的异族军吓跑了，仙芝才得以生还。仙芝奏报了李嗣业的功劳，提升他为右金吾大将军，留任疏勒镇使。城墙有个角落崩塌了，多次修好后又塌了，李嗣业在那里祷告，有条白龙现了，因此在那里建祠祭祀，城墙就不塌了。汉代耿恭的旧井长期涸，他祈祷以后，泉又有了。开始讨伐律国时，在葱岭上开路，有块大石堵住了路，他用脚一蹬，石就到谷里去了，记载这事的人认为是他的诚心使上天动了。

天宝二十年(753)，加封骠骑大将军。京朝拜时，唐玄宗当面赐酒给他喝，他因酒醉起拜舞，皇帝为表示对他的信，赏给他一百匹绸缎、五十件金、钱十万贯，说“：这是给你解酒的。”

安禄山反叛了，唐肃宗调他回来，诏书一到他就率军上路，并和众将割破手臂起誓说：“路过的地方，一草一木都不能动。”到达凤翔后，拜见了皇帝，皇帝兴地说“：现在你来了，胜过几万军队，讨贼能否成功，全靠你们。”于是下诏命他和郭仪、仆固怀恩合。他常常担任先锋，用大挥击，叛军碰到了，都被打败了。又升任四镇、伊西、北行军兵使。

广平王收复长安的时候，李嗣业率前军，在香积祠北边列阵。叛军将领李归仁率锐骑兵来挑战，唐军用箭退他们后就派骑兵追赶他们，他们还没跑到敌军营地，敌军大举击，掩杀追击的唐军骑兵，逃回的骑兵冲了唐军，因此军阵了。李嗣业对郭仪说“：现在不拼死求生，全军就完了。”立刻脱掉衣服手持长刀，大喊着冲到阵前，杀死了几十名叛军，唐军军阵才又整顿好了。他率两千步兵持长刀、长柄斧并排前，所向无敌，李归仁将军队埋伏在军营左边，窥测形势，广平王命回纥兵攻叛军的伏兵，李嗣业也从敌军背后夹攻，从中午战到太偏西，杀六万颗，死在山涧山谷中的将近一半，叛军东逃，于是收复了长安。后又兵收复洛，李嗣业作战最多。接着又和张镐、鲁炅、来調、嗣吴王李祗、李奂平定了各州。他被任命兼任卫尉卿，封为虢国公、实封两百。

以后又兼任怀州刺史、北行营节度使。