成化初年，任山陰縣尹，平易近人。后因母去世，返里守墓三年，足跡不履城市。三年后，任齊河縣尹，在職三年，對(duì)民慈惠，一錢不取，時(shí)值中官汪直到處輯捕貪官，他因清廉得免。齊河縣東的運(yùn)河連年沖決為患，連祥命筑堤栽柳，使當(dāng)?shù)孛馐苎蜎]之災(zāi)，人們?yōu)榧o(jì)念他，將河堤取名“連公堤”。