Joseph Roth rođen je 1894. godine u galicijskom gradiću Brodyju u Austro-Ugarskoj Monarhiji (današnja Ukrajina). Studij germanistike na Bečkom sveučilištu upisao je 1914., a 1916. dobrovoljno se javio u vojsku i neko vrijeme proveo na Istočnoj fronti u rodnoj Galiciji. Po završetku Prvog svjetskog rata živio je u Beču i pisao za lokalne novine. Nakon dvije godine odselio se u Berlin; 1924. postao je suradnik uglednog njemačkog dnevnika Frankfurter Zeitung. Novinarski posao odveo ga je u Rusiju, Poljsku, Francusku, Albaniju, Italiju, Jugoslaviju. Novinarstvom se bavio sve do smrti i napisao nekoliko stotina članaka, reportaža i kolumni.
Već ranih 20-ih godina počeo je pisati priče i romane među kojima su najpoznatiji Paukova mreža (Das Spinnennetz, 1923.), Job (Hiob, 1930.) Radetzky marš (Radetzkymarsch, 1932.), Carska grobnica (Die Kapuzinergruft, 1938.) i Levijatan (Der Leviathan, 1938.).

Nakon Hitlerova dolaska na vlast prekinuo je sve veze s Njemačkom i uglavnom živio u Parizu. Život u egzilu, financijske neprilike i alkoholizam postupno su mu narušavali zdravlje.

Joseph Roth umro je 27. svibnja 1939. u Parizu.