在虞国见到了宫之奇，在宫之奇的推荐下，虞公拜百里奚为中大夫。君臣相见结束后回到寓所，蹇叔对百里奚说：“我看虞公这个人，太过于普通，没有自己的主见。并不是一个值得托付的主人。”百里奚说：“我都这么困难了，就像鱼儿在陆地上炙烤。现在能够得到虞公的赏识，我还有什么奢望的呢。”蹇叔劝了劝，见百里奚已经做了决定，也不好说什么，一个人就走了。
等到虞、虢二国被灭掉后，百里奚说：“我已经算是个不够聪明的人了，但是还是至少做个忠臣吧。”他就一直跟着虞公。
今天，秦国来提亲，晋献公听了舟之侨的建议，就要百里奚去当送亲的使者。
百里奚哪里愿意去送亲啊，他叹了口气说：“我是一个胸有抱负的人，没有遇见开明的君主，不能施展自己的志向。现在我老了，还叫我去送亲，真是侮辱人啊。”
在送亲的半路上，瞧了个机会，百里奚一溜烟儿就跑了。
他跑到宋国，结果道路不够通畅，他就向楚国跑去，在楚国的宛城城外，被城外的猎人抓到了，猎人们以为他是奸细，就把他绑了起来，他急了，分辩说：“我是虞国人，我们国家被晋国灭掉了，我逃跑到了这里，不是奸细啊。”那些猎人看他也不象说谎，就问他：“你不是奸细，那么会做什么呢？”百里奚说：“我会养牛。”猎人们就留下他在农村喂牛。
百里奚呢确实养牛有一手，在他的精心饲养下，那些牛儿被他养得膘肥体厚。猎人们说：“你这个人还真有点本事呢。”大家就把他推荐给楚王。楚王也挺感兴趣地，就问百里奚：“先生啊，这个养牛有什么诀窍没有呢？”
百里奚说：“这个养牛啊，还是需要了解牛的需要，要做到人和牛的共通性。自己也要用心，把牛当成自己的伙伴。这样的话，牛就养得肥了。”楚王听了，哈哈大笑，：“你这个和养马是一个道理啊。”楚王就让百里奚做了圉人，圉人就是养马的官员。不要小看这个官职，古时候，马匹对国家太重要了。以前秦国的祖先对周王室有功，封在西边，主要工作就是给周王室养马。后来，秦国一天天壮大起来。小说《西游记》里面孙悟空在天空封的官职叫弼马温，这个也是养马的。百里奚接受了这个官职，就在南海那儿养马