1835年3月24日斯蒂芬生于斯洛文尼亞克拉根福附近的圣彼得村，父親亞歷山大是個(gè)小店主，在克拉根福完成了小學(xué)學(xué)業(yè)，期間就展露了他過人的天賦，并且對(duì)文學(xué)產(chǎn)生了較大的興趣。1853年高中畢業(yè)后，離開克拉根福來到了維也納大學(xué)學(xué)習(xí)數(shù)學(xué)和物理，1857年大學(xué)畢業(yè)，并于1858年在維也納大學(xué)獲得哲學(xué)博士學(xué)位，之后，他在大學(xué)做過一段時(shí)間的義務(wù)教師，教授數(shù)學(xué)物理學(xué)。1863年被評(píng)為物理學(xué)教授，并在該大學(xué)任教。1866年斯蒂芬當(dāng)選為物理學(xué)研究所的所長，成為維也納科學(xué)研究院和歐洲的一些科研機(jī)構(gòu)的成員，并在1875年擔(dān)任科學(xué)院的秘書職務(wù)。

早在斯蒂芬的研究之前，德國物理學(xué)家 基爾霍夫已經(jīng)將理想的輻射現(xiàn)象描述為一個(gè)“ 絕對(duì)黑體”，即在任何溫度下對(duì)任何波長的輻射能的吸收率都等于1的物體，是一種理想的模型。1879年，斯蒂芬通過實(shí)驗(yàn)斷定：黑體的輻射能力正比于它的絕對(duì)溫度的四次方，1884年，這個(gè)結(jié)論在理論上經(jīng)波爾茲曼驗(yàn)證，從而形成了“斯蒂芬－ 玻耳茲曼定律”。

1893年1月7日，約瑟夫·斯蒂芬在奧地利的維也納去世，享年57歲。