少隸軍籍，驍勇善戰(zhàn)，官至殿前指揮使。乾興中期，改左班殿直、并代路巡檢。徙延州西路都巡檢使。

宋仁宗康定元年（1040年），李元昊率西夏兵十萬來犯，延州告急，宋軍晝夜兼程，馳援延州。雙方爆發(fā)三川口之戰(zhàn)。此役宋軍處于明顯劣勢，郭遵建議先偵后進(jìn)，劉平不聽，劉平下令郭遵和王信帶騎兵半渡而擊。李元昊軍手下一名軍人揚(yáng)言要擒拿郭遵，郭遵“期必死，獨(dú)出入行間”，揮鐵杵擊破其腦袋，兩軍皆大呼。郭遵又三出三入敵營，殺敵數(shù)百人，不久，其坐騎中槍，馬踠仆地，郭遵被殺。三川口一戰(zhàn)，郭遵戰(zhàn)死，特贈果州團(tuán)練使。