这个成语来源于《资治通鉴》，君辈倚杨右相如泰山，吾以为冰山耳！若皎日既出，君辈得无失所恃乎！ 

唐玄宗李隆基特别宠爱杨玉环，封她为贵妃。这下杨家便鸡犬升天了，她的堂兄杨国忠也官运亨通做了宰相，还兼领四十余个使官，大权在握，朝廷选任官吏都在他家里私下决定。 

当时，陕西有一个进士，名叫张彖（tuan）没有机会作官。他的朋友们都劝他去拜见杨国忠，那样立刻就能升官发财。可是他始终不去，反倒对劝他的朋友说：“你们都把杨国忠看得像泰山一样稳固，可是我以为他不过是一座冰山罢了。将来天下有了动乱，他就会垮掉，好比冰山遇到太阳化掉一样，到那时候你们就失掉靠山了。” 不久，安禄山起兵叛乱，攻下京城长安，杨国忠随同唐玄宗逃往四川，在马嵬驿，被士兵杀死。杨贵妃也被缢死，杨家这座靠山果然塌倒了。