东汉桓帝时期,张芝出生于甘肃渊泉(今甘肃安西县东)的名门望族,父亲张奂官至护匈奴中郎将、度辽将军、大司农等,屡立功勋。张芝年轻的时候就很有节操,品格高尚,虽出身官宦之家,是当时的贵族,但毫无纨绔子弟的习气,不慕功名,一心学习书法。朝廷屡次征召他出来做官,都被他拒绝,所以,当时人们称他为“张有道”。
张芝特别喜欢当时社会上流行的一种新书体——草书,师法杜操(度)的章草,并且试图努力加以改进,以便写得更加简便流畅。在他的影响下,他的弟弟张昶也喜欢上了书法。
张奂为了方便张芝和张昶兄弟练习书法,就着人打造了石桌、石凳,安放在池塘边上。从此,兄弟二人天天临池学书。张芝把家中的衣帛都拿来,先在上面练字,然后再拿去煮洗。就这样日复一日、年复一年,那池塘里的水都变黑了。经过如此刻苦练习,张芝终于书法大成,还赢得了书法史上的“草圣”美名。他临池学书的池塘也被后人称为张芝“墨池”。他的弟弟张昶也成为东汉时期的书法名家。