张苍是阳武人，喜好诗书、音律、历法和算术，在秦王朝时于朝廷中担任御史职务，主管收录天下四方文书的工作。后来因犯罪而逃归家乡。沛公起兵后，攻城略地时路经阳武县，张苍以宾客的身份随从攻打南阳。在此期间，张苍触犯军法，依法论为死罪。当他被脱掉上衣伏在砧板上时，只见他长大的身体，又肥又白，活像一个葫芦瓜。统兵将领王陵见状很是惊异，认为他是个美男子，与众不同，便劝说刘邦饶过他，未予斩首。于是，张苍随从沛公西入武关，到达咸阳。沛公被立为汉王并还定三秦后，陈余击走常山王张耳，张耳归附汉王，汉王任命张苍为常山郡郡守。张苍随从韩信攻击赵军，张苍俘虏了陈余。赵地被平定后，沛公任命张苍为赵王的相国，命他守备边境，防止敌寇入侵。不久，汉王又改任张苍为赵王张耳的相国。张耳死后，其子张敖继任赵王，张苍仍任赵相，后改任代国相国。汉高帝五年（公元前202年）七月，燕王臧荼反叛，高帝率兵亲征，张苍以代相的身份随从攻燕，立有战功。汉高帝六年，封张苍为北平侯，食邑一千二百户。

不久，张苍升任“计相”，主管朝廷的财政收支。一个月后，又以列侯的身份任“主计”（由计相改名的临时职官）四年。当时，萧何担任汉帝国的相国职务，而张苍由于在秦朝担任过柱下史官职，熟悉天下的图书典籍、统计报表，又懂得算术、音律、历法，因而使令张苍以列侯的身份居于相国府中，负责管理各郡县及诸侯王国呈报给朝廷的财政收支统计、图表等各项事宜。在担任计相、主计期间，张苍在萧何的直接领导下，主持为西汉王朝制定章程的各项工作。所谓章程，“章”是指历法、算术的“章数”，“程”是指“法式”，即有关权、衡、尺、斗、斛等度量衡的统一法式，制作度量衡的标准器，为汉帝国统一度量衡做了大量的工作。

汉帝国建国初年，汉高帝所面临的问题很多，诸如安定社会秩序、恢复社会经济、封赏功臣、平定异姓诸侯王的叛乱、抵御匈奴入侵，确实是千头万绪，很少有闲暇的时间。即使在这种情况下，汉高帝丝毫也没有忽视帝国制度建设的工作。为汉王朝的长治久安，他深谋远虑。在天下平定后，汉高帝“命萧何次律令，韩信申军法，张苍定章程，叔孙通制礼仪”，在诸侯叛乱、“日不暇给”的情况下，终于使汉王朝的各项制度建设初具规模，称得上是“规摹弘远”，为汉王朝的长治久安从制度上初步地奠定了基础。

汉帝国制度建设的主持人是相国萧何，协助萧何做这项工作的还有张良、韩信、张苍、叔孙通等人。然而，从全局做出总体规划的决策人则是帝国皇帝刘邦。刘邦高瞻远瞩、深谋远虑，在汉帝国制度建设中做出了历史性的贡献。