张良识得大体，见开国有功之臣皆落得个悲惨的现场，决定远离仕途，归隐山林。据祖辈的世代相传，他隐居于现在位于安徽省歙县杞梓里镇的某个小山村里，因该地比较隐蔽，很少有人能找到，所以过着安逸的生活。这个小村庄也因为张良为明哲保身，躲避世事纷争且四周皆群山环绕，中间似坑而取名为“躲备坑”。张良有二个儿子辟疆和不疑，这两个儿子说来生性很怪，对他们父亲的话总是背道而驰，父亲要他们上山，他们却要下田，张良也拿他们没有办法。张良老了临终时，把他们叫到跟前，询问自己死后该如何下葬，因为他不想自己飘飘荡荡，所以他就故意说要让儿子将自己水葬，一向做事相反的儿子们就在张良死后葬于该村的高山之巅，并在他的坟墓前挖了一个大池子，养了许多鱼，来守卫这个小村庄世代平静、安详。后来，由于“躲备坑”这个名字不是很好，当地居民就依据方言将“躲”字改为“大”字，成为今天的一个小村子“大备坑”。
