李密即位魏公，为安抚翟让，特许之开府以致形成了以翟让为核心的小集团，这个小集团的形成，势必会让李密感到不舒服，但是这不舒服却要放在心里，因为，这是开府必然的后果。所以中国历代君主都很注意这一点，除非乱世或是开国之初，否则绝对不会给其他人开府的权力，而即便给你开府的权力，君王的刀也随即架到你的脖子上。比如汉武帝时期，做到丞相也就意味着你人生的结束。当然，也会有这么一种情况，你的权力高于君主，比如汉末的曹操，三国时期的诸葛亮，都是大权独揽，相权比皇权大得多，这时就会出现一个情况“宫中府中，俱为一体”。所以，尽管李密不舒服，他也只能忍耐，因为李密现在的位子，毕竟是翟让让给他做的。而且，翟让作为瓦岗寨的创始人，还是拥有一股不容人小视的力量。而且，翟让为人豁达，不计较权力的得失，并没有什么谋反的小动作。如果真的破脸，就会造成瓦岗的分裂。这对于刚刚兴盛的瓦岗寨，是不能容忍的。可是，“卧榻之下岂容他人鼾睡”。权力的斗争只有一个结局，不是你死就是我亡。
这就是权力，权力身旁常伴着的贪婪和猜忌，会把人拖入最阴暗的深渊。
看到形势大好，瓦岗军的首领很可能将来成皇帝，翟让的一些亲友和下属开始不甘心了。翟让自知才干比不上李密，压根没动夺权的心思。
李密对翟让却是愈发不放心了。
比如有一次，翟让喊元帅府记室（其实就是李密的秘书）邢义期赌博，邢义期因为去晚了，被翟让打了八十杖。
翟让还曾经向左长史（李密的秘书长）房彦藻说：“你上次攻破汝南，得到了不少金银财宝全部都给魏公（李密）了，一点儿都不给我！要知道魏公是我一手推立的，还不知道以后怎么样呢。”房彦藻很害怕，就找到李密说：“翟让刚愎贪婪，有无君之心，应早图之。”李密听后当然又惊又惧，思来想去，翟让还是死了的好。为了我李密更好的明天，翟让你去死吧！
在打败王世充的转天，李密在洛口城府邸摆宴庆胜，并邀翟让等人出席；暗中安排刀斧手伏于两侧，掷杯为号，全部杀出，杀死翟让。没防备的翟让与其兄翟弘、侄子司徒府长史翟摩侯一块赴宴。为防翟让反抗，李密还想出一计，酒喝到兴头上时，李密拿出一张好弓送于翟让，翟让很开心，试试弓的硬度是否趁手。就在翟让拉满弓的一瞬间，李密动手了，早就埋伏好的蔡建德挥刀将翟让砍死，四下的刀斧手齐出，将翟弘、翟摩侯、王儒信等翟让的亲信全部砍死。
李勣赶紧向外跑，被门口的侍卫一刀砍伤脖颈，幸亏王伯当远远看见，急忙喝止，才幸免于难。一起赴宴的单雄信也被这种情况吓到，这是要大清洗还是怎么着，急忙下跪磕头求饶，李密当然明白以后打天下还要靠这些人为自己冲锋陷阵，就把单雄信放了。并发挥自己的口才，大声地抚慰这些瓦岗的旧臣。李密说道：“和大家一起起义举事，是为了扫除暴乱，翟让这个人却专横跋扈，凌虐大家，并且有不臣之心，今天就杀他们一家，和大家一点关系也没有。”说完就让人把受伤的李勣扶到后面亲自为其洗伤敷药。见此情景，大家才慢慢安下心来。
