张归霸，字正臣，五代时期清河人。张归霸小时潇洒豪爽，爱好兵术。唐朝乾符年间（874—879年），藩镇割据，群雄蜂起，张归霸与他的弟弟张归厚、张归弁投奔唐末农民起义领袖黄巢，因勇敢机智闻名。黄巢攻陷长安，即授他以左番功臣的名号。中和年间（881—884年），黄巢势力日益窘迫，张归霸兄弟遂转投朱温（原参加黄巢起义，后降唐再灭唐，最后成为五代十国后梁开国皇帝）。此后就一直为朱温的霸业四处征讨，成为朱温的一员勇将、一员常胜的大将。

话说自从朱温投降唐朝廷后，他便与各路唐军联合，围剿黄巢军。黄巢无法抵挡，只得向南转移。黄巢在攻打蔡州（今河南汝南）时，唐蔡州节度使秦宗权投降，在黄巢死后，他取而代之，继续反唐。朱温乘胜追击黄巢军，一直打到汴州（今河南开封），此后，朱温便以汴州为他的根据地，与秦宗权麾下的蔡军展开了持久战。
时势造就英雄。张归霸跟随朱温，在反击蔡州秦宗权军队围攻汴州的时候，建立赫赫战功。
据《五代史·梁臣传第十》记载：唐光启初年，张归霸与蔡军在卢氏（今河南省西部）、双丘（今湖北省赤壁附近）、万胜（今河南万胜）交战，歼灭敌军无数。后来，秦宗权派将领张晊前来，在赤岗（今河南开封东北）扎营。一天，张晊以骑兵向汴州军队挑战，蔡军中的一位亲兵用箭射中了张归霸。张归霸拔下箭，随手反过来射向这位亲兵并把他射死了，张归霸还“一不做二不休”把人家的战马给抢了回来。据说朱温当时正站在高坡上，亲眼目睹了事情发生的整个过程，非常赞赏他的行为，赏赐给他很多金银财宝，并把那匹马赏赐给了他。张归霸声名自此大振。
在接下来的战斗中，主帅朱温让张归霸带领五百弓箭手埋伏在道路两旁，他自己亲自带领三百名骑兵充当“诱饵”去诱惑敌人。他们来到张晊的营寨前不远，张晊果然出动大队兵马攻击朱温，朱温早有准备，轻松地离开。张晊却紧追不舍，很快他们就进入到张归霸的埋伏圈。张归霸命令伏兵先是一通乱箭，把张晊的军队射的晕头转向，最后张归霸带领士兵冲出战壕和敌人短兵交接。这时候，朱温率领着三百轻骑兵又杀了回来，里外相合，总共杀敌一千多人，并夺得战马数十匹。这是一次非常勇敢的“以少胜多”的军事行动。朱温以自己作为诱饵，诱敌深入，让张晊不得不上当。同时，，张归霸的勇猛好战，也为战争的胜利提供了强有力的保障。他们创造了一次具有巨大威慑作用的战例，最后还在气势上让秦宗权的军队丧失了胜利的信心。
汴蔡军队之间的战争，一直连续不断。后来，经过诸多战役之后，朱温的军队取得了战场上的优势，进入了反攻阶段。

唐文德初年（888年）四月初，朱温派张归霸等部将领步骑兵三万进攻蔡州，兵分两路从东、南两门共同出击，把蔡州兵打得大败，落荒而逃。等到朱温集结军队出战时，战斗已经结束。朱温非常意外，召来张归霸，称赞他说：“以前耿弇（东汉名将）不等光武帝下令就出击张步，说不能将贼寇留给君王。立下耿弇这样的功劳，你是第二个啊。”
唐大顺元年（890年），张归霸领兵数千守卫曹州（今山东菏泽）。后来张归霸追随朱温在金乡（今山东济宁）、洹水（今河南安阳）、内黄（今河南省内黄县）作战，战绩超群，居于众将之上，接连升官至检校左仆射。
光化二年（899年），张归霸代理主持邢州（今河北邢台）事务。第二年春天，唐晋王李克用派将领李嗣昭率领五万士兵来犯，张归霸坚守城墙做好准备，敌军不敢冒犯邢州城，于是调转军队进攻洺州（今河北永年县），洺州陷落。后洺州被收复时，李嗣昭向北逃走，张归霸出兵追击他，杀死二万多人。捷报传来，赏赐非凡，张归霸被加封为检校司空。后梁开平元年（907年），梁王朱温篡唐称帝，国号大梁。张归霸官拜为右龙虎统军、左骁卫上将军。
戎马倥偬，勇猛好战，一生战功无数。张归霸在五代十国的乱战中，书写了一篇浓墨重彩的华章。张归霸的诸多表现让朱温非常满意，并最终和他结为亲家。开平二年（908年），张归霸拜河阳节度使，最后因病而死，诏令追赠为太傅。