Abalı Baba Türbesi, derin bir manevi atmosfere sahip, tarihi ve mistik hikayelerle dolu önemli bir yapıdır. Bu türbe, hem yerel halk hem de ziyaretçiler için ruhsal bir sığınak olmasının yanı sıra, Abalı Baba'nın yaşamına dair anlatılan efsanelerle de dikkat çekmektedir. Özellikle Hacı Bayram-ı Veli ile olan karşılaşmaları ve gerçekleştirdiği mucizeler, onun halk arasındaki yerini pekiştiren unsurlar arasında yer alır.

Abalı Baba Türbesi'nin bazı hikayeleri şunlardır:

• Hacı Bayram-ı Veli ile karşılaşması. Bir rivayete göre, Hacı Bayram-ı Veli, Abalı Baba'nın tekkesinin inşaatına başladığını duyunca onu ziyaret etmek ister. Yanında bir rivayete göre Gül Baba, başka bir rivayete göre ise Hüseyin Gazi vardır. Abalı Baba, ziyaretçilerini karşılamak için tekkede kullandığı taşların veya duvarın üzerine binerek misafirlerini yolun başında karşılar.
• Gölgelik ağaçların oluşumu. Hacı Bayram-ı Veli, "Gölgelik bir yer de yokmuş" deyince, Abalı Baba hemen davranıp ateşten yanan üç odun alıp toprağa atar ve bu odunlar ağaca dönüşür. Bu ağaçlar kutsal kabul edilip kesilmezler. Ancak artık yaşlılıktan dolayı günümüzde kurumuşlardır.
• Asker toplama olayı. Yavuz Sultan Selim'in İran seferinin arefesinde, asker toplamakla görevli bir kolağası, Abalı Baba'yı duvar üzerinde görür ve "Padişahın İran seferi için asker topluyoruz, sen de katıl" der. Abalı Baba, elindeki üç çubuğu yere atar ve bu çubuklar insan şekline gelince "Haydi oğullar savaşa gidelim" der. Kolağası, bu mucizeyi görünce "Sizler burada kalınız, sizin dualarınız bize yeter de artar bile" diyerek oradan uzaklaşır.

Abalı Baba Türbesi, asırlar boyunca Ankara ve civarında psikolojik hastaların tedavi gördüğü bir kutsal mekan olmuştur. Günümüzde de bu özelliğini korumaktadır.