冉雍的身世并不好。他的父亲冉离是一位品行不好的人，但是他的继母公西氏是个非常知书达理且疼爱孩子的人。她听说孔子讲学，就把三个孩子送入孔子门下学习。在冉雍的故事有很多，都很有趣。

传闻因为父亲的品行不好，偷过东西，所以冉雍一直很自卑，觉得自己低人一等，而且同窗的小伙伴也会看不起他，甚至会欺负他。有时候他们还会觉得父亲是小偷，所以冉雍也会偷东西。孔子把这一切都看在眼里，准备找一个恰当的时机，教育一下弟子们。有一天，大家外出游玩，看到一头毛色赤红，头角端正的小牛。弟子说老师曾经说过这样的小牛是要用来祭祀山神的。孔子故意说，他的血统不好，不能用。学生辩驳道血统不影响，因为不是用它父母来祭祀。孔子顺势说道，的确啊，人也一样。不能因为一个人父辈的品行原因，就怀疑甚至否定他的一切。弟子们知道孔子说的就是冉雍，认识到自己的错误，逐渐接纳了冉雍，后来，冉雍也与其他弟子相处的很好。

在冉雍刚入孔子门下时，孔子问他有什么志向，他说愿意把尧舜这样的圣贤之道发扬光大。孔子甚是欣慰，觉得自己有人将自己的思想学说传下去了。作为孔子门下德行科的弟子，孔子称他“雍也可使南面。”即他是可以为官的人。