张观年少时，即以严谨好学闻名乡里。中状元后，授将作监丞、通判解州。仁宗即位，迁太常丞，为三司度支判官、知制诰，出知杭州。还朝后，进为翰林学士、知审官院，累迁左司郎中，以给事中权御史中丞。时遇灾异，仁宗诏求直言，张观上疏道：“承平日久，政宽法慢，用度渐侈，风俗渐薄。”条陈知人、严禁、尚贤、节用四事。河北发大水，又上疏建议：“导积水以广播种，缓催久以省禁锢，宽刑罚以振淹狱，收逃田以募归复，置工役以先急务，止配率以阜民财，通商旅以济艰食。”复知审官院，遂拜同知枢密院事。
康定中（1040～1041），西兵失利，张观因与陈执中等商议点乡兵，久而不决，被罢以资政殿学士、尚书礼部侍郎知相州，徙澶州。当时正遇水患，州人大恐，众人都劝他移高地以避险，张观怒道：“太守独去，如州民何？”，乃亲领兵民加高堤岸，直至水退为止。徙郓州后，上疏朝廷，请放宽煮盐之禁，使获罪者日少。后历知应天府、孟州、河南府，以吏部侍郎兼御史中丞。
张观性至孝，初为秘书郎，上疏愿把自己的官阶让给父亲，得到真宗的嘉奖，以其父为京官。父亲晚年喜欢洛阳风物山川，张观遂在洛阳买田宅、营林榭，还主动要求调到父亲身边任地方官，每日早起先侍奉父亲，然后才去官府办事，未曾荒废一日。其父年过90而卒，张观因哀痛过度，不治而亡，赠吏部尚书，谥文孝。
张观持廉少欲，言行谨慎，平生为文必用楷书，无一行草。文如其人，人如其文，仁宗曾飞白书“清”字赐之，以表彰他的节操。