Marraskuussa 1905 georgialaiset bolsevikit valitsivat Stalinin erääksi edustajistaan bolsevikkien konferenssiin Pietarissa. Saavuttuaan hän tapasi Leninin vaimon Nadezhdan Krupskajan, joka kertoi hänelle, että tapahtuma oli siirretty Tampereelle Suomen suurherttuakuntaan. Konferenssissa
Stalin tapasi Leninin ensimmäistä kertaa. Vaikka Stalin kunnioitti Leniniä syvästi, hän oli äänekkäästi eri mieltä Leninin näkemyksestä, jonka mukaan bolsevikkien tulisi asettaa ehdokkaita tuleviin valtioduuman vaaleihin; Stalin näki parlamentaarisen prosessin ajanhukaksi. Huhtikuussa 1906 Stalin osallistui RSDLP: n neljänteen kongressin Tukholmassa; tämä oli hänen ensimmäinen matkansa Venäjän valtakunnan ulkopuolelle. Konferenssissa RSDLP, jota silloin johti sen menshevikkien enemmistö, sopi, ettei se keräisi varoja aseellisella ryöstöllä. Lenin ja Stalin olivat eri mieltä tästä päätöksestä ja keskustelivat myöhemmin yksityisesti siitä, miten he voisivat jatkaa ryöstöjä bolsevikkien hyväksi.