公元前522年，有人向楚平王进谗言，诬陷太子建要联晋叛楚，平王拟将他处死。太子建的老师伍奢因为替太子辩护而被关进大牢。楚王知道伍奢有两个儿子都文武双全，于是让伍奢写信召唤他们回郢都。

大儿子伍尚与二儿子伍子胥商议以后，都知道回去必死无疑，可是伍尚表示自己回去与父亲同死尽孝，并让伍子胥快逃找机会替他们报仇。伍子胥含泪逃跑。伍子胥一路上逃到了楚国的边境昭关。谁料楚王早就担心伍子胥出逃，因此沿路画了伍子胥的图像，见到出城的人就对着图像对照，盘查很严，伍子胥只能躲在一个叫东皋公的家里。

伍子胥每天思考怎么出关，结果几天没睡而头发全白。东皋公就找了个和伍子胥长得有点像的朋友和伍子胥一起出关。由于伍子胥头发变白了，守关的人一时没认出来，就放他出了关，结果把假伍子胥捉了。

伍子胥乘着一位打鱼老人的船过了江，来到了吴国。伍子胥投靠了公子光的门下，并帮助他杀死了吴王僚，夺取了王位，名为吴王阖闾。之后伍子胥又帮助吴王治理国家。这时候兵法家孙武又投靠了吴王，于是吴王凭借这两个人大败楚国。

公元前506年，吴王阖闾亲率大军攻打楚国，同时命孙武为大将，伍子胥为副将。当时楚平王已经死了，伍子胥为报父兄惨死之仇，掘楚平王墓，鞭尸三百，算是替父兄出了口气。

吴王阉闾死后，夫差继位，信任奸臣伯嚭，中了越王勾践复国灭吴之计。有一次，夫差和西施正在玩乐，伍子胥又来劝谏，夫差恼羞成怒，丢给他一把“属镂”剑，逼他自尽。伍子胥死前说：“我身为吴国之臣，生不能为国尽忠，死后你们要把我的头挂在城门口，我要看看越王勾践的大军，怎样从我的眼皮底下经过！”

后来越军果然兵临城下，伍子胥头颅突然胀得像车轮，两眼发光，须发怒张，吓得敌军不敢近前，只好改道进城。传说，伍子胥死后，夫差把他的尸体装入布袋抛到河里，浮到太湖。当地百姓打捞起来安葬。

后人为了纪念他，便把挂过他的头的城门叫“胥门”，把投他尸体的河叫“胥江”，把湖口称为“胥口”。胥口附近的一座山也命名为“胥山”。

(资料来源于《史记》《东周列国志》）