張匹青自幼聰穎，愛讀書習字。入私塾后更是勤奮努力，遵從教誨。老師見其好學上進并一表人才，力勸其父送子升學，張乃于1896年得考入縣城公立學堂。1900年畢業(yè)，考取南京格志學堂。在校目睹清政府腐敗，又閱讀《猛回頭》、《革命軍》等進步書籍，乃立下獻身革命之志向。1905年東渡日本，進日本士官學校學習軍事知識。旅日留學期間，結識了孫中山、黃興等革命人士，并加入孫中山創(chuàng)建的同盟會，極力倡導推翻清政府。

1911年畢業(yè)回國，旋參加了武昌起義，任黃興大元帥府機要參謀。攻城戰(zhàn)中，張匹青親率一個警衛(wèi)連沖向敵營，被一顆子彈穿帽而過，僥幸得免于難。1912年8月同盟會改組，張重新登記加入國民黨。袁世凱竊取政權后，乃隨孫中山、黃興在江浙和天津一帶討袁，屢立戰(zhàn)功。1915年返湘，先后任湖南督軍署及陳嘉佑司令部副官長，參加了討伐軍閥吳佩孚、張敬堯之戰(zhàn)。1920年調(diào)任沅江縣知事，興辦學校，修筑堤壩，為百姓謀福祉。1923年回身軍界，任湘五軍十六旅旅長，次年調(diào)任湘軍督戰(zhàn)委員長，在湘西一帶北伐并剿匪，取得重大勝利，孫中山因此將本人6寸半身照相贈，并親筆題寫：“匹青先生惠存 ——孫文敬贈”。

1926年，陳嘉佑在廣州創(chuàng)建第二軍軍官學校，張匹青受邀出任該校管理部長。校內(nèi)設有政治講習班，張曾多次接待毛澤東、周恩來、何香凝等來校講授社會主義學說，而其愛人周莊亦與楊開慧同班同桌聽講。1927年，蔣介石背叛革命，張聯(lián)絡陳嘉佑、方鼎英等赴香港、上海等地倒蔣，并掩護了陳義、陳秩常等20余名被蔣通緝的中共地下黨員出境。蔣曾派爪牙張群對其進行封官許愿及金錢收買，被嚴詞拒絕后旋以3000元大洋懸賞緝拿。為躲避抓捕，張于1930年回湘，閑居長沙東鄉(xiāng)十余年。在鄉(xiāng)熱心公益事業(yè)，在群眾中有較高的威望。

抗戰(zhàn)勝利后，張匹青在長沙組織辛亥革命首義同志會，開展各種愛國自救活動。后當選為長沙市參議員，曾為增加教師薪水、修繕和恢復學校、善后救濟等事關民眾利益的問題熱心奔走。1949年出任長沙市人民自救委員會委員、長沙市北區(qū)迎解委員會主任，配合開展“迎解”工作。新中國成立后任長沙市北區(qū)支前委員會委員、北區(qū)助學委員會副主任、湖南省各界人民代表會議代表等職，協(xié)助政府推動和完成了支前借款、勸募公債、抗美援朝、民主建設、人民監(jiān)察及消防、救濟、教育等多項工作。1951年在長沙市舉行的抗美援朝大會上，張應湖南省政府主席王首道之邀發(fā)表了鼓舞人心的講話。1953年6月任湖南省人民政府參事室參事。