百里奚的人生八个字概括，一曰命途多舛，二曰大器晚成。干什么事都比别人成的晚。他本是虞国人，字井伯，三十来岁来娶上一个妻子，生一子。
因为家贫，本人又怀才不遇，想出门闯荡一番，又舍不得妻子杜氏，终日郁郁。还是杜氏看出，丈夫心中盘旋着一只雄鹰，不放飞一番将终生引以为恨。她发狠对百里奚说：“好男儿志在四方，夫君若壮年不出门奔前程，反要守着我一生困守原地么？你不必担心我，我自个儿能养活自己！”
家里只有一只下蛋的母鸡，杜氏把来杀了，给丈夫饯行。灶下连柴火都没了，只好把门闩劈了；现舂煮了一碗脱粟饭，让百里奚饱餐一顿好上路。临行前，杜氏抱着儿子，牵着百里奚的衣裾哭着说：“富贵勿相忘！”
百里奚泪别妻子，先到了齐国，想见当时的齐襄公姜诸儿，却无人引荐。日子久了，不免穷困潦倒，流落到桎，此时百里奚已四十岁了。
当地有个叫蹇叔的人，一见百里奚，便觉他相貌堂堂，决非乞讨之人。问其姓名，邀他共餐，与谈时事，百里奚是对答如流，指点江山，品评国事是井井有条。蹇叔叹息：“以你这样的才华，却穷困至此，岂非命乎？”
于是主动和百里奚结拜为兄弟，留他在家中长住。蹇叔也只长百里奚一岁，且亦家贫，百里奚便帮着村里人养牛，以帮补一些餐饭。此时公子无知杀了齐襄公自立，正在招募人才，百里奚要去应聘。
蹇叔不同意：“先君有儿子流亡在外，无知窃取君位，不会长久的。”百里奚便打消了念头。
之后，又听说周王室的王子颓喜欢养牛，自己又颇擅此术，百里奚又想去洛阳了。来与义兄道别，蹇叔说：“大丈夫不可轻失此身。一旦效命于王子颓而弃之而去，则为不忠；若与其同患难，则为不智。此行，弟要慎之又慎！待吾料理好家事，也会往洛阳和你一起相看一下此人是否值得辅佐。”
百里奚到了洛阳，以养牛之术谒见王子颓，被起用为家臣。这时蹇叔也来了，和百里奚一起见了王子颓，回来后说：“这个子颓志大才疏，周围都是些谗媚之小人，今后必会觊觎王位，且定会功败垂成，不如走吧。”
百里奚想到与妻子分离十多年了，也想回虞国。蹇叔说：“虞国贤臣宫之奇大夫是我的故交，我也想去看看他。就和你一起回虞国吧。”
到了虞国，百里奚回家却见不到妻子，原来杜氏因家贫不能自给，已带着孩子流落他乡，不知往何处去了。百里奚自是伤感不已。
蹇叔见了宫之奇，时时谈起自己义弟百里奚的贤能，宫之奇将百里奚推荐给了虞公，拜为中大夫。蹇叔又有话说：“我看这位虞君贪图小利，不是个有为之主。”
百里奚说：“弟贫困已久，如鱼在陆地，急于得水才得呼吸。”
“既如此，我便不劝了。将来你若要来找我，可去宋国的鸣鹿村，那是个幽雅隐逸之地，我会移居于彼。”
蹇叔走了，百里奚便这样留在了虞国，直到虞公失国，百里奚也没有走，他说：“我已不智了，现在哪还敢不忠呀？”
话说此时秦国在位的君主秦穆公嬴任好即位已六年，还没有娶妻。那时的男人，侍妾再多没有正夫人也还是单身汉。秦穆公想着这样不是事，便派遣大夫公子絷向晋国求婚，求娶晋献公长女伯姬为夫人。
这样的大事自要问问苍天与鬼神，晋献公命太史苏用筮草占得卦词：“西邻责言，不可偿也。”似乎不吉。
晋献公心里估计还是很想结这门亲的，于是命太卜郭偃再烧龟壳，得卜词：“松柏为邻，世作舅甥，三定我君。利于婚媾，不利寇。”
这不是挺吉利的吗？于是晋献公便许了这门亲事。其实晋献公这人挺有意思，他从来只听从自己的内心声音，管他鬼神说什么，我只要我觉得好就行。立骊姬为正夫人是这样，嫁女儿伯姬也是这样，好在这回算做对了。
公子絷回国路上遇到一个奇人，脸色赤红，满面虬须，两手握着两把锄头耕地，一锄头下去扎进尺余深。一问姓名，说：“公孙枝，字子桑，晋君旁枝。”
公子絷觉得他是个人才，问肯不肯一起到秦国去效力，公孙枝十分乐意。于是便把他带了回来，秦穆公拜为大夫。
晋国那边，既然定下了和秦国的婚事，就要准备陪嫁了。那时候陪嫁的不止有财物，更要有人口，有准备做妾室的女子，还要有各行各业的奴仆。这时候，舟之侨说话了：“那个百里奚死活不愿在晋国为官，其心难测，不如送去陪嫁好了。”于是，倒霉的百里奚出现在了陪嫁人员名单上。
百里奚听说此事，十分伤感：“吾抱济世之才，却不遇明主一展抱负。临老了，还要为人奴仆，象妇人一般陪嫁，真乃奇耻大辱！”
他趁人不备，从陪嫁队伍中跑了。本来想去宋国找蹇叔，但道路不通，只得转向楚国。到了宛城，被人怀疑是奸细，抓了起来。百里虞忙辩解：“我是虞国人，因亡国逃难到此。”
“会干什么？”
“会养牛。”
于是，百里奚留在当地养牛，也奇了怪，他养的牛一天天肥壮，就是比别人养的好。弄的楚王都知道了，召他来问：“你养牛有什么特别的法子吗？”
“该吃的时候给它吃，体恤它，把此心与牛合为一体。”
“好，我看你说方法不仅养牛可用，养马也一样。”
于是，楚王任命他为圉人，在南海牧马。
那边秦穆公查点陪嫁单子，见有百里奚的名字，却没这个人，问左右是怎么回事。公子絷说：“此人是之前虞国的贤臣，如今逃了。”
秦穆公问公孙枝：“子桑从晋国来的，必知百里奚是个何等样的人吧？”
“贤人，知虞公不可谏而不谏，是智慧。从虞公往晋，又不仕于晋，是忠也。且此人有经世才华，只是不遇明主而已！”
“寡人如何能得到这百里奚呢？”
“我听说百里奚的妻子在楚国，想必他定会前往寻找，不如派人到楚国打探打探！”
没多久，使臣回来了，说：“百里奚在海滨，为楚君牧马呢！”
秦穆公很着急：“那孤送重金相求，请楚君把人给我吧！”
公孙枝笑道：“这样那百里奚定来不了！”
“何故？”
“楚国让百里奚放马，是不知道他的才能。如今主公以重金求之，是告诉他们百里奚的能力。楚国知道了，必把人留下自用，如何肯给咱们？主公不如以抓逃媵为名，用最贱的价钱把他赎回，就如管夷吾脱身于鲁的法子一样。”
秦穆公拍手称妙，于是派人带着五张羊皮进于楚王说：“本国有一贱臣百里奚，逃脱在贵国。寡君想赎得此人回国治罪，以警示他人，愿以五张羊皮将其赎回。”
楚王想这是小事，不必为此和秦国失了和，于是使东海人把百里奚关了，交付给秦人。
百里奚要走了，东海的人以为他此次回去必会被杀，都哭了。百里奚笑着说：“我听说秦君有大志，怎会为一媵仆斤斤计较？必是想用我了，此行为富贵耳，干吗要哭？”
囚车一入秦境，早有公孙枝等在那里，马上秦穆公召见。看百里奚已是须发皆白，问他的年纪。百里奚说：“才七十岁哩。”
秦穆公心中一惊：“可惜太老了！”
“若要我逐飞鸟，搏猛兽，臣的确老了。可若是让臣坐论国事，臣比那姜太公还年轻十岁呢！”
秦穆公感佩，这回诚心请教：“我秦国与戎狄交界，又不与中国会盟，您能否教教寡人，如何能使我秦国不落于人后？”
“雍岐之地本是西周龙兴之地，而周王不能守，被秦所得，这不是上天庇佑是什么？且与戎狄交界，则可借以强兵；不与中国会盟，则国力可聚。如今那西戎有国数十，若兼并其地则足以耕作，得其民可以为战，中原诸侯皆不可与秦相争。主公以德抚民，以武力征，扼山川之险，以临中国，进退得宜，则霸业可成。”
秦穆公如醍醐灌顶，起立曰：“孤得井伯，犹如齐得仲父也。”
一连谈了三日，遂拜百里奚为上卿，委以国政。所以世人皆称百里奚为“五羊皮大夫”。
可百里奚不愿就上卿之位，反举荐一人自代，他举荐了谁呢？