張三豐五歲的時候，得了眼病，積久漸昏。當時有個道長名叫張雲庵，乃是方外奇人。張雲庵道長遇見張三豐，說：此子仙風道骨，自非凡器，須拜貧道爲弟子，了脫此眼疾白障。”其母林氏于是同意，把兒子交給道長爲徒。
張三豐和道長在道觀住了一年，眼睛的疾病慢慢好了，道長就教他讀書認字。張三豐有閑空的時候，會讀儒釋道三家之書，以及醫書，會理解大概意思即止。
張三豐十三歲的時候，其母親林氏想念兒子，張雲庵道長也就不留他。于是張三豐拜辭歸家，專研儒家之道。
元世祖中統元年（1260年）張三豐被舉爲異才。被舉薦當官，但是當官不是張三豐的志向。
至元元年（1264年）秋天，張三豐遊至燕京。當時元朝剛剛在燕京定都，诏令舊列有才識的人待用。張三豐聲名漸起，開始與平章政事的廉希憲結交爲友。廉希憲驚異張三豐的才能，向蒙古大汗忽必烈奏表讓張三豐補爲中山博陵令。
元至元二年（1265年），張三豐的父母病逝，張三豐棄官丁憂，不久就斷絕了當官的想法。最後獨自一個人行走江湖。
不久，張三豐入終南山修煉。張三豐在終南山遇到修真者火龍真人，拜其爲師傅。火龍真人因爲隐居終南山，故稱“終南隐仙”。其真實名字叫賈得升。
張三豐在終南山修道之後，因爲平時不修邊幅，又稱“張邋遢”，他自稱是張道陵後裔。
張三豐得到火龍真人的傳授，潛心修煉，修煉境界達到了可以陽神出遊之程度，時隐時現，行蹤莫測。世人見之，皆以爲是神仙。
張三豐着述豐富，諸如《玄機直講》、《打坐歌》、《玄要篇》、《無根樹》等。
張三豐把儒家倡導的仁義與道家煉丹的鉛汞畫等号，稱“仙家鉛汞即仁義的種子”。在他那裏，陰陽家五行的金木水火土、儒家五德的仁義禮智信和人體五經的肝肺心脾腎是一一對應的。
張三豐在《五德篇》中說：“仁屬木也，肝也；義屬金也，肺也;禮屬火也，心也；智屬水也，腎也；信屬土也，脾也。”心有五德，身有五經，天地有五行，皆缺一不可，心無仁者必無養育之念，其肝已絕，而木爲之槁枯；無義者必無權宜之思，其肺已絕，而金爲之朽鈍；無禮者必無光明之色，真心已絕，而火爲之衰熄;無智者必無清澄之意，其腎已絕，而水爲之昏涸;無信者必無交孚之情，其脾已絕，而土爲之分崩。所以說“德包乎身，身包乎心，身爲心用，心以德明，是身即心，是心即身，是五德即五經，德失經失，德成身成，身成經成，而後可以參贊天地之五行”。爲後人習武，養性做出巨大貢獻。