张衡是张良的后人的。
东汉末年天师道第二代天师，留侯张良的后代，天师张道陵长子，汉中太守张鲁的父亲。张鲁的祖父名叫张道陵，据说是西汉开国功臣张良的后裔。张道陵来到蜀汉，在鹄鸣山中学道，吸引了不少民众，“造作道书以惑百姓”。
张衡(?-612年)，字建平，隋河内(治今河南沁阳)人，西魏河阳太守张嶷之孙，北周万州刺史张允之子。炀帝嗣位，为御史大夫，颇受恩宠。炀帝欲修汾阳宫，进谏失宠，出为榆林太守，怨望不满，除名为民。大业八年(612年)，以谤讪朝政罪被杀。
张衡自幼心怀大志，为人正直。十五岁时，到太学从事学业，认真研究，被同辈人所推许。后遇北周武帝，提拔为汉王侍读，累次升迁，到任掌朝大夫。入隋，拜司门侍郎。依附晋王杨广(炀帝)，历任河北行台刑部、度支二曹郎，并州总管掾，扬州掾。竭诚事广，为其策划夺嗣，得任右庶子。仁寿四年(604年)，参与害死文帝。
