曾任遼寧省經(jīng)委技術(shù)局干部，遼寧省工業(yè)技術(shù)開發(fā)中心副主任、主任，遼寧省經(jīng)濟技術(shù)開發(fā)公司副總經(jīng)理、總經(jīng)理，中國聯(lián)通遼寧分公司副總經(jīng)理、總經(jīng)理、臨時黨委書記等職務(wù)。

1982年，沈陽化工學(xué)院高分子化工專業(yè)畢業(yè)。

2001年03月，任中國聯(lián)通副總經(jīng)理、黨組成員。

2002年，獲美國紐約州立大學(xué)MBA學(xué)位。

2004年10月，任中國聯(lián)通總經(jīng)理、黨組成員。

2006年，獲香港理工大學(xué)工商管理博士學(xué)位。

2008年05月，任中國電信集團公司黨組書記、副總經(jīng)理。

2011年07月，任工業(yè)和信息化部副部長、黨組成員。

2015年01月，任工業(yè)和信息化部副部長、黨組成員，國家網(wǎng)信辦兼職副主任。

2015年08月至2019年03月，任中國移動通信集團公司董事長、黨組書記。

2019年09月，任第五屆中國互聯(lián)網(wǎng)協(xié)會理事長。

2020年04月，任國家電網(wǎng)有限公司外部董事。

2011年7月8日，國務(wù)院決定，任命尚冰為工業(yè)和信息化部副部長。

2015年8月24日，中國移動通信集團公司召開中層以上管理人員大會。宣布黨中央、國務(wù)院關(guān)于中國移動通信集團公司主要領(lǐng)導(dǎo)變動的決定，尚冰任中國移動通信集團公司董事長、黨組書記。

2016年3月，被免去國家互聯(lián)網(wǎng)信息辦公室副主任（兼職）職務(wù)。

2019年3月4日，中國移動通信集團有限公司召開中層以上管理人員大會，中央組織部張建春副部長宣布了中央關(guān)于中國移動通信集團有限公司主要領(lǐng)導(dǎo)調(diào)整的決定：免去尚冰的中國移動通信集團有限公司董事長、黨組書記職務(wù)。

2019年9月，尚冰當(dāng)選為第五屆中國互聯(lián)網(wǎng)協(xié)會理事長。

2020年4月，央企人事調(diào)整，聘任尚冰為國家電網(wǎng)有限公司外部董事，聘期三年（自2020年2月至2023年1月）。