1977年，在江蘇省旅游學校學習，畢業(yè)后在南京旅游飯店工作。

1982年——1986年，就讀于南京師范大學俄羅斯語言文學系；

1986年——1990年，外交部蘇歐司（前蘇聯(lián)1991年解體后，蘇歐司更名為歐亞司，負責東歐和中亞）科員、隨員；

1990年——1991年，中國駐蘇維埃社會主義共和國聯(lián)盟大使館隨員；

1991年——1993年，中國駐俄羅斯聯(lián)邦大使館三秘、二秘；

1993年——1998年，外交部歐亞司副處長、處長；

1998年——2001年，中國常駐聯(lián)合國代表團參贊；

2001年——2004年，外交部歐亞司參贊、副司長；

2004年——2008年，中國駐俄羅斯聯(lián)邦大使館公使銜參贊、公使；

2008年——2009年， 外交部政策研究司副司長、司長

2009年——2011年， 外交部政策規(guī)劃司司長

2011年——2013年， 外交部部長助理

2013年——2014年， 中國駐哈薩克斯坦共和國特命全權大使

2014年——2016年， 中國駐印度共和國特命全權大使

2016 － 2018 中央外事工作領導小組辦公室副主任、中央外事工作委員會辦公室副主任

2018 －外交部副部長

第十九屆中央委員會候補委員。

2014年9月10日，新任駐印度大使樂玉成向印度外交部禮賓司代司長安尼爾遞交國書副本。

2016年3月30日，印度議會印中友好小組主席、聯(lián)邦院議員塔倫·維杰為駐印度大使樂玉成舉辦送行晚宴。

2016年10月，根據(jù)全國人民代表大會常務委員會的決定，免去樂玉成的中華人民共和國駐印度共和國特命全權大使職務。

2016年11月，任中央外辦副主任。

2018年4月，國務院任命樂玉成為外交部副部長。