东海郯人。祖父刘嘉，为光禄勋。刘虞最初被举荐为孝廉，升任幽州刺史，百姓与蛮夷被他的仁德所动，鲜卑、乌桓、夫余、秽貊等族都时朝贡，不敢扰边境，受到百姓歌颂。因公事被免官。中平初年，黄巾作，攻破冀州诸郡，朝廷任刘虞为甘陵相，安抚灾荒后的百姓，以俭朴为下属榜样。后升任宗正。

后来车骑将军张温讨伐贼寇边章等人，征调幽州乌桓三千骑兵，因军粮供应不上，都逃回本国。前中山相张纯私下对前太山太守张举说：“如今乌桓已经背叛，都想作。凉州贼人起事，朝廷不能禁止。又有洛人的妻生下的孩有两个，这是汉朝气数已尽，天下有两主的征兆啊。你若和我一起率乌桓的众来起兵，说不定可以成就大事业。”张举于是听信了他。中平四年，张纯等就和乌桓首领共同结盟，攻打蓟地，焚烧城郭，掳掠百姓，杀护乌桓校尉箕稠、右北平太守刘政、辽东太守终等，众达到十余万，驻扎在如。张举称“天”，张纯称“弥天将军安定王”，向各州郡传送文书，说张举要取代汉朝，让天退位，命公卿来迎接。张纯又派乌桓峭王等人步骑兵五万，青冀二州，攻破清河、平原，杀害官吏百姓。朝廷因为刘虞素来有威信，对北方有恩德，第二年，又任命他为幽州牧。刘虞到蓟，裁减驻军，广布恩德。派人向峭王等人转达朝廷的宽宏恩德，为他们开辟光明正。又悬赏捉拿退举、退锉。退垩、亟钟逃外，其余的人都投降或四散。亟锤被他的门客型d杀死，把送给型虞。玺童派使者去就地任型虞为太尉，封查丘堡。

等到董卓执政，遣使授刘虞为大司，封襄贲侯。翅王元年，又召他接替驴为太傅。因路不通，诏命竟没有送到。过去因为幽州地偏远，耗费钱粮很多，每年常要割取青、冀二州的赋税两亿多，来给它供应补足。当时路不通，运送不到，而刘虞实行宽大政策，鼓励农业生产，开放和上谷胡人贸易，与渔富饶的盐铁行通，民众喜，粮丰收，谷一石才三十钱。青州、徐州士绅百姓躲避黄巾之难跑到塑胪这裹来的有百余万IZl，他都收留问，为他们安排生计，民都忘了自己是民。刘虞虽然位居上公，但天节俭，破衣草鞋，饭没有两个菜，那些过于奢侈的有钱有势者，无不受其化。

当初，朝廷命公孙瓒讨伐乌桓，受刘虞指挥。公孙瓒衹是一心扩充势力，而放纵下，很是侵扰百姓，而刘虞为政仁，总想有利于民众，因此和公孙瓒逐渐不和。初平二年，冀州刺史韩馥、海太守袁绍与山东诸将商议，因为皇帝幼小，受董卓迫，远隔关山，不知是否还活着，认为刘虞是汉宗室又是忠厚长者，想立他为君主。于是派原乐狼太守张岐等人带着他们商议的结果，给刘虞加皇帝的尊号。刘虞见了张岐等人，严厉地训斥他们说：“如今天下动，士上遭难。我受朝廷大恩，不能洗雪国耻。诸位各自统领一方州郡，应当共同努力，为王室尽心，却反而想叛逆的主意，来玷污坑害我吗！”决拒绝了他们。韩馥等人又请刘虞兼尚书事务，以皇帝名义封官拜爵，他又不答应。随即把来人杀了。于是选派掾右北平田畴、从事鲜于银冒险秘密前往长安。献帝早想东归，见了田畴等人非常兴。当时刘虞的儿刘和任侍中，因此派刘翅偷偷从！困发，告知刘廛领兵接驾。从直疆路过，后将军袁术听说此事，就扣押了刘和，派人告诉刘虞发兵一同西行。刘虞就派几千骑兵来接刘和一儿去奉接天，而袁术居然不放刘曲。

当初，公孙瓒知袁术诈，一再劝刘虞不要发兵，刘虞不听，公孙瓒于是偷偷劝袁术扣押刘和，以夺取刘虞的军队，从此刘虞和公孙瓒的仇恨更了。刘和不久得以从袁术逃脱回北方，又被袁绍扣留。公孙瓒已经屡次被袁绍所败，却仍旧不断向袁绍攻，刘虞既担心他滥用武力，又怕他发展起来制不住，决不许他兵，而稍稍削减他的供应。公孙瓒发怒，屡次不听他的束，又去侵犯百姓。刘虞赏赐胡人的财，公孙瓒几次抢去。长期不能禁止，刘虞就派传递公文的使节向朝廷奏报他暴掠夺之罪，公孙瓒也上告刘虞克扣他的钱粮，二人的奏书不断驰送朝廷，互相诋毁，朝廷衹能和稀泥而已。公孙瓒于是在蓟城筑起台以防备刘虞。刘虞几次邀请公孙瓒，公孙瓒总是推说有病不去。刘虞于是密谋讨伐他，把这打算告诉东曹掾右北乎魏攸。魏攸说：“如今天下人都伸着脖把您当作希望，谋臣武士不能没有啊。公孙瓒的文武才都足堪使用，虽有小过，本应容忍。”刘虞才作罢。