张释之很有才能，但做了十年官却没有升迁，只做到公车令这个像官不是官这个位置。太子刘启与梁王同乘一辆车入朝，经过司马门时没有下车，公车令张释之迎上去拦住了太子和梁王，不让他们进宫，并且弹劾他们在皇宫门外不下车的不敬罪，并上报朝廷。

薄太后知道了这件事，文帝摘下帽子向太后赔罪说：都怪我教导儿子不严。

薄太后就派使者传令赦免太子与梁王，他们才得以入宫。文皇帝因为这件事，更加看出了张释之的与众不同，便任命他做中大夫。

张释之跟随孝文皇帝出行，登临上林苑里的虎圈。孝文皇帝询问上林苑的官员，各种禽兽的簿册登记情况，问了十几个问题，那些官员你看我，我看你，全都不知道如何回答。

看管虎圈的饲养员，在旁边代替上林尉，回答了皇帝提出的所有问题，回答问题很是完美。为了借此显示自己的本领，一切回答都是张口就来，毫不停顿。孝文皇帝说：做官吏不应该像这样吗？上林尉太无能了，话都说不分明。

孝文皇帝令张释之任命这个饲养员做上林令。张释之沉默了许久才上前说：陛下认为绛侯周勃是怎样的人？

孝文皇帝说：是个忠厚的长者啊！

张释之又问：东阳侯张相如是怎样的人呢？

孝文皇帝说：也是个忠厚的长者。

张释之说：绛侯和东阳侯都被称为长者，可这两个人谈论事情时都不善于言辞。现在这个饲养员因为口齿伶俐，说话滔滔不绝，就越级提拔，我担心此风一开，天下人都竞相追随，争相练嘴皮子，而不求实实在在的本事。陛下做任何事情，都不可以不慎重啊！

孝文皇帝说：你这么看问题很对。