Vào ngày 26 tháng 5 năm 1917, Graf kết hôn với Karoline Bretting. Một năm sau, con gái của họ Annemarie (13 tháng 6 năm 1918 <unk> 2008), được gọi là Annamirl, được sinh ra. Vào đầu năm đó, Graf bị bắt vì tham gia vào một cuộc đình công của công nhân đạn dược. Ông cũng gặp người phụ nữ sau này trở thành vợ thứ hai của mình, Mirjam Sachs, em gái của Manfred George và một người anh em họ của Nelly Sachs. Năm 1919, Graf bị bắt lại vì tham gia vào các phong trào cách mạng ở Munich.
Graf bị bắt